2026
3 篇文章Ai2 DiScoFormer：一次前向傳播算出密度與分數
Ai2 團隊的 DiScoFormer 用單一 Transformer 從有限樣本同時估計機率密度與分數，在 100 維把分數誤差降為最佳核密度估計的約六分之一，並獲選 ICML 2026 口頭報告。
閱讀文章 ↗Ai2 拆解混合模型優勢：贏在內容詞，輸在複製
Ai2 用資料與訓練配方完全對齊的 Olmo 3 與 Olmo Hybrid 逐 token 比較損失，發現混合架構在內容詞上明顯佔優，但在逐字複製與右括號上優勢消失，顯示循環層擅長語意狀態追蹤、注意力擅長複製。
閱讀文章 ↗你的工具真的適合 Agent 嗎？Hugging Face 用完整工作過程來測
Hugging Face 的 agentic benchmark 不只看答案對錯，而是記錄 turns、tokens、錯誤率與 marker 採用率，再掃過模型與工具版本。Transformers 案例顯示：CLI 加 Skill 讓大模型省時間，卻讓 Qwen3-14B 正確率從 67% 掉到 43%。
閱讀文章 ↗
2026
2 ARTICLESAi2's DiScoFormer Estimates Density and Score in One Pass
Ai2's DiScoFormer estimates density and score in one forward pass. In 100 dimensions it cuts score error 6.5x and density error 37x versus tuned KDE. An ICML 2026 oral paper.
READ POST ↗Ai2 Maps Where Hybrid LLMs Beat Transformers, Token by Token
Ai2 compared Olmo 3 with Olmo Hybrid token by token, with matched data and training. Hybrids win on content words; the edge vanishes on verbatim copying and closing brackets.
READ POST ↗