8 月 6 日,AMD 宣布與多倫多新創 Taalas 簽署最終收購協議。這家公司成立於 2023 年,做法在業界相當激進:不做通用 GPU,而是把特定模型的權重直接蝕刻進晶片,用「硬體圍著模型造」換取推理速度與成本優勢。交易金額未公布,須待監管核准;The Register 報導預計第四季完成。CNBC 提到,Taalas 累計募資 2.19 億美元。
對 AMD 而言,這是 Silo AI(6.65 億美元)、ZT Systems(49 億美元)之後補齊全端佈局的又一塊拼圖;時間點則緊跟 NVIDIA 去年 12 月約 200 億美元的 Groq 授權交易。推理專用硬體,正在成為晶片巨頭軍備競賽的新戰場。
交易要點
- 標的:Taalas,多倫多,2023 年創立,AMD 稱其為「專用 AI 推理矽晶的先驅」
- 金額未揭露,交易尚待慣常條件與監管核准
- AMD AI 事業群資深副總裁 Vamsi Boppana:要讓客戶能「為每種 AI 工作負載部署合適的運算方案」
- Taalas 共同創辦人暨執行長 Ljubisa Bajic:創立 Taalas 就是為了「從零重新思考 AI 推理,把硬體圍著模型來造」
把模型印進晶片:MSIC 怎麼運作
Taalas 的產品叫 MSIC(model-specific integrated circuit),內部分成兩塊區域:mask-ROM 記憶布料儲存蝕刻進硬體的權重,SRAM 記憶布料負責 KV 快取與微調用的轉接器。測試晶片 HC1 採台積電 6nm 製程,今年 2 月亮相:跑 Llama 3.1 8B 達到每秒 16,960 個 token,當時比 NVIDIA GPU 快 48 倍、比 Cerebras 加速器快 8.5 倍。下一代 HC2 目標在單晶片容納 200 億參數,兆級參數模型約需 50 顆以管線方式並聯。
速度的代價
交換條件很清楚:模型若要做超出 LoRA 轉接器範圍的修改,就需要重新投片——好在只需更動兩層金屬層。Bajic 的說法是,新模型「兩個月內就能在硬體上實現」。換句話說,MSIC 適合權重穩定、吞吐量極大的推理場景,而不是快速迭代的前沿訓練。AMD 的整合構想是混搭:GPU 負責提示處理,Taalas 晶片負責 token 生成,再與 Helios 機架系統、EPYC 與 ROCm 綁成整套方案。The Register 另引述,把權重蝕刻進矽的成本約為訓練一個前沿模型的百分之一。
對推理市場的意義
Lisa Su 在說明中重申立場:「我深信晶片這件事沒有一體適用。」這句話大致總結了產業方向:訓練與推理、提示處理與生成、通用與專用,正在被拆成不同硬體類別。對購買推理容量的開發者來說,短期影響有限,但方向明確——模型固定、吞吐量極大的負載會率先出現專用矽選項,通用 GPU 的定價也將多一個下壓力來源。
參考來源
本文由 AI 協助自上述來源整理,經人工審核後發布。
