2026 年 2 月 19 日,微軟研究院發布報告《Media Integrity & Authentication: Status, Directions & Futures》,由首席科學長 Eric Horvitz 等三位研究員合寫,MIT Technology Review 取得首發報導。它不是立場聲明,而是工程文件:團隊實測 60 種驗證方法組合,檢視它們在 metadata 被剝除、內容被修改等失效情境下的表現,畫出平台可信賴的部署藍圖。
時機並不偶然:加州 AI 透明法案八月生效,歐盟 AI Act 透明義務進入倒數,而 MIT Technology Review 引述的 Indicator 稽核顯示,主要平台上只有 30% 的測試 AI 貼文被正確標示。立法壓力加上標示失靈,「怎麼驗證內容」從倫理討論變成工程排程。
一份測了 60 種組合的藍圖
報告把驗證手段分成三個家族:來源紀錄以微軟 2021 年共同創辦的 C2PA 為核心,記錄檔案從誕生到每次轉手的履歷,生態系已有超過 6,000 個成員與附屬機構;隱形浮水印人眼不可見、機器可讀;指紋比對則從內容本身計算特徵比對資料庫。
關鍵結論是單靠任何一種都不夠。報告提出「高信心來源驗證」:把安全來源紀錄與隱形浮水印分層疊加,才能在部分訊號被破壞時仍給出可信判斷。報告也誠實劃出極限:指紋比對做不出高信心結果、規模化成本偏高,只適合人工鑑識;無安全硬體的離線裝置,高信心驗證不可行;單獨用可感知浮水印反而讓使用者困惑;連訊號顯示位置與信心強度都影響解讀。
「社會技術性來源攻擊」:訊號會被反轉
報告最具原創性的貢獻,是命名「社會技術性來源攻擊」(Sociotechnical Provenance Attacks):攻擊者反轉驗證訊號,把真內容標成 AI 生成,或把 AI 內容洗成真跡。平台開始顯示來源標章後,標章本身就成了新攻擊面。
對應的設計原則相當節制:寧可不顯示,也不要顯示可能錯誤的標籤;部分修改要明確標示;使用者要能點開 manifest 看到編輯位置;驗證該做進原本的資訊流,並區分高、低信心訊號的呈現。硬體也被點名:離線裝置的高信心驗證,得靠相機與錄音設備內建安全區,在拍攝當下簽署來源。
微軟自己會照做嗎
最微妙之處在自家承諾。MIT Technology Review 追問 Copilot、Azure、LinkedIn 乃至微軟持有的 OpenAI 股份是否全面跟進,Eric Horvitz 不肯承諾,只說產品團隊「正在依報告發現採取行動」,形容這是「自我監管」,並坦承商業動機:「我們也想成為想知道世界發生什麼事的人,會選擇的供應商。」
外部評價正面但保留。UC Berkeley 的 Hany Farid 說:「我不認為它解決了問題,但我認為它砍掉了很大一塊。」報告也自劃邊界:工具只揭露內容是否被竄改,不判斷真假——「這不是在做什麼真假的裁決」,Horvitz 說。
對平台與開發者的實際意義
三個結論。第一,分層驗證是明確方向:C2PA manifest 加隱形浮水印,大概率是 2026 年內容誠信功能的主流架構,平台團隊可直接對齊。第二,UX 與技術同等重要:同一份 manifest,呈現不對就會被社會技術性攻擊利用,「不顯示」必須是合法的介面狀態。第三,別指望單一訊號——30% 的正確標示率說明現況離可用還遠,法規時程不會等。
參考來源
- Microsoft has a new plan to prove what’s real and what’s AI online — MIT Technology Review
- Media Authenticity Methods in Practice: Capabilities, Limitations, and Directions — Microsoft Research
- Content Authenticity Initiative
本文由 AI 協助自上述來源整理，經人工審核後發布。