Google推出AI Edge Gallery：手機離線跑開源模型

2025年5月31日，TechCrunch報導Google悄悄釋出一款名為AI Edge Gallery的應用程式，讓使用者直接在手機上下載並執行AI模型，全程不需連網。這款App沒有發布會、沒有新聞稿，程式碼直接放在GitHub上，對照Google旗下雲端AI服務的高調行銷，這是罕見的低調動作。

AI Edge Gallery目前以實驗性Alpha版本供Android使用者下載，iOS版本預告將於近期推出。它的核心能力是連到Hugging Face，把Gemma等開源模型拉到裝置上，之後的推論全在手機端完成。對隱私敏感、網路不穩定，或只是想省下雲端推論費用的開發者來說，這是一個明確訊號：Google開始認真把「手機就是推理裝置」當成一條產品路線。

一週內悄悄上線的實驗性應用

TechCrunch在5月31日的報導指出，這款應用是在該週稍早悄悄上線，定位為實驗性的Alpha版本，採用Apache 2.0授權，原始碼公開在GitHub的google-ai-edge儲存庫。儲存庫的自我描述是：展示裝置端機器學習與生成式AI的使用案例，讓人們能夠嘗試並在本地使用模型。相較於Gemini等服務的行銷聲量，這款App幾乎沒有宣傳，顯示Google自己把它定位成一場實驗：先讓開發者動手試，再決定哪些功能值得產品化。

三大功能：AI Chat、Prompt Lab與Ask Image

AI Edge Gallery內建三個主要介面。AI Chat是一般對話介面，載入支援的語言模型後可進行多輪對話。Prompt Lab針對單輪任務設計，內建提示詞範本，並可調整參數，適合快速測試摘要、改寫等指令的效果。Ask Image則支援以圖片提問的多模態推論。可用的模型包括Google自家為端側設計的Gemma 3n，以及從Hugging Face抓取的其他相容模型，涵蓋問答、撰寫與編輯程式碼、圖像理解等任務。對開發者來說，這等於是一個官方維護的端側模型試玩場。對習慣呼叫雲端API的開發者來說，這三個介面也提供了一個對照組：同一個任務，在小模型與大型雲端模型上的答案品質差距有多少，跑一遍就有概念。這種比較過去要自己搭環境，現在裝一個App就能完成，對評估端側方案是否夠用的團隊特別有用。

離線推理的實際價值

模型下載到手機後，推論過程完全離線，這帶來三個實際好處。第一是隱私：對話內容與圖像不會離開裝置，對企業內部工具或敏感資料場景特別有吸引力。第二是可用性：飛機上、訊號不佳的環境中依然能運作，不依賴任何API服務的在線狀態。第三是成本：推論次數不產生雲端費用，對需要大量呼叫模型的原型開發是實惠的測試管道。對講究資料落地合規的團隊來說，推論不經過雲端這一點，本身就是可以寫進方案的賣點。此外，它也降低了體驗端側AI的門檻——過去要在手機上比較不同開源模型的行為，得自己架推理框架，現在裝一個App就行。

硬體門檻與效能落差

Google在說明中提醒，執行速度與輸出品質會因裝置硬體與模型大小而有明顯差異。旗艦手機跑小型模型相對流暢，中階裝置則可能面對緩慢的生成速度，甚至記憶體不足而無法載入較大的模型。這是端側AI的現實：模型能力與裝置算力之間的取捨無法迴避，選模型時必須同時考慮參數規模與目標用戶的設備分布。對產品決策者來說，AI Edge Gallery的價值正在於此——它是一個低成本的評估工具，用來判斷自家使用情境該走端側、雲端，還是混合路線。

Google的邊緣AI布局

把這則消息放回脈絡看，意義更清楚。2025年的Google一方面在雲端以Gemini系列衝刺訂閱與API業務，另一方面持續投資Gemma開源模型與AI Edge工具鏈，而AI Edge Gallery把這條線直接推到消費者手機上。選擇Apache 2.0授權並完整開源，代表Google想靠生態系而非單一App取勝：開發者可以檢視、修改、延伸，模型來源也不鎖死在Google自家。對手機製造商與應用開發者而言，這類官方工具鏈降低了把生成式AI塞進裝置的工程成本，也讓離線AI從玩具變成可認真評估的選項。回頭看2025年5月底，這次低調發布是手機端離線AI從示範走向實用的轉折點之一，之後各大行動平台在裝置內模型上的競爭，都能在這裡找到起點。

參考來源

本文由 AI 協助自上述來源整理，經人工審核後發布。