NVIDIA

Akamai 買進數千顆 NVIDIA Blackwell GPU:把推理搬進 4,400 個全球邊緣據點

Akamai 於 2026 年 3 月 3 日宣布購入數千顆 NVIDIA Blackwell GPU,結合逾 4,400 個邊緣據點打造分散式推理平台,宣稱延遲最多改善 2.5 倍、推理成本最多省 86%。本文解析其推理時代佈局與對開發者的意義。

Akamai 買進數千顆 NVIDIA Blackwell GPU:把推理搬進 4,400 個全球邊緣據點 — 文章封面
本頁內容6 個段落
  1. 推理時代的算力邏輯
  2. 「分散式神經系統」的架構
  3. 效益數字:延遲最多改善 2.5 倍、成本最多省 86%
  4. 從 CDN 與 Linode 到推理雲
  5. 對開發者與平台團隊的意義
  6. 參考來源

2026 年 3 月 3 日,Akamai 宣布已購入數千顆 NVIDIA Blackwell GPU,要鋪進自家的分散式雲端,打造「全球分佈最廣的 AI 平台」之一。重點不在訓練——在推理。

這家以 CDN 起家的公司,把賭注押在「AI 重心正從集中式訓練轉向靠近使用者的推理」:Akamai 引述 MIT Technology Review,56% 的組織認為延遲是大規模部署 AI 的首要障礙。Data Center Dynamics 隔天跟進,補充確切數量未公開。

推理時代的算力邏輯

Akamai 的論述很直白:第一波 AI 把訓練集中在少數超大雲 region;現在模型要進到自動送貨、智慧電網、手術機器人與即時詐欺偵測這類場景,決策必須以真實世界的速度發生——來回遠端 region 的延遲與 egress 成本,成為新瓶頸。

營運長 Adam Karon(Cloud Technology Group 總經理)說:超大雲繼續推進訓練極限,Akamai 專注「推理時代」——集中式 AI 工廠仍不可少,但規模化應用需要一套「分散式神經系統」,把推理算力鋪到「街角與病床邊:工作發生的地方、資料所在的地方、ROI 實現的地方」。

「分散式神經系統」的架構

具體組合是:NVIDIA RTX PRO 伺服器(搭載 RTX PRO 6000 Blackwell Server Edition GPU)與 BlueField-3 DPU,加上 Akamai 的分散式雲端與超過 4,400 個據點的邊緣網路。平台統一支援三件事:在專用 GPU 叢集上跑可預測的高效推理;就地微調 LLM,讓資料留在區域內滿足隱私與合規;用私有資料做後訓練優化。換句話說,這是一套把「模型放置」當變數的編排系統,把推理工作負載路由到離使用者最近的據點。

效益數字:延遲最多改善 2.5 倍、成本最多省 86%

官方給的帳是:與傳統超大雲架構相比,用 NVIDIA AI 基礎設施跑推理,延遲最多改善 2.5 倍,成本最多節省 86%。數字是行銷口徑——比較基準與工作負載未公開,實際結果因場景而異;但方向合理:推理吃的是就近運算與減少 egress,而「把位元搬到離使用者最近的地方」正是 CDN 做了二十多年的本業,現在只是把 GPU 一起搬過去。

需求訊號同樣值得注意:Akamai 說首批部署「需求強勁」,會持續增加 GPU 容量——邊緣推理已不是概念驗證,而是有人在排隊的產品。

從 CDN 與 Linode 到推理雲

佈局有跡可循:2022 年以約 9 億美元收購 Linode 取得 IaaS 基礎,2025 年 10 月推出 Akamai Inference Cloud。這次大規模 Blackwell 採購是同一條路的延伸——CDN 的全球連線與快取,疊上 GPU 叢集與 DPU,組成與超大雲正面競爭推理需求的替代架構。

對開發者與平台團隊的意義

三個觀察。第一,推理開始有自己的供應商光譜:訓練是超大雲與主權叢集的戰場,推理則可能被 Akamai 這類分散式網路業者切走一塊,尤其延遲與資料落地敏感的代理式 AI、實體 AI 與合規微調場景。第二,LLM 路由以後不只選模型,還要選推理位置。第三,成本結構會變:86% 的節省不會全落到帳單上,但 egress 費用與延遲懲罰是 AI 帳單裡最隱形的兩塊,選型時值得實測。

參考來源

本文由 AI 協助自上述來源整理,經人工審核後發布。

這篇內容對你有幫助嗎?

支持本站繼續整理實用的 AI 文章、教學與開發筆記。

請我喝杯咖啡
分享X電郵