為什麼要談「權力集中」風險
OpenAI 在 2026 年 8 月 20 日宣布成立 Strategic Futures 團隊，並推出同名部落格 AI Futures。這個團隊的核心問題是：當 AI 能大幅降低國家對人類勞動力的依賴時，自由社會該如何重組，才能保住個人權利與能動性？
他們把這類問題歸類為「權力集中」風險，並認為這是長期而言最大、最嚴重的挑戰。文章指出，現代國家的權力基礎是勞動力：軍隊、警察、官僚體系都需要大量人類合作，稅收也來自人民的工資與生產。但當自主系統能投射武力、資料中心能取代人類勞動成為稅基、官僚運作也能自動化時，國家可能不再需要與社會進行廣泛的權力協商。
從美國建國者的「力學」借鏡
OpenAI 的論點並非主張完全去中心化。他們回顧美國建國者如何用牛頓力學的隱喻來設計權力制衡：不是避免所有權力集中，而是讓權力彼此牽制，避免單一勢力獨大。
文章引用 James Madison 在《聯邦黨人》第 48 篇的警告：「只靠羊皮紙屏障，不足以對抗權力的侵蝕。」建國者相信人和組織都有追求權力的傾向，就像天體有運動與吸引的傾向，因此需要理解這些「力學」，讓野心對抗野心。
六項指導原則
AI Futures 團隊列出六項非窮盡的原則，作為後續工作的方向：
- 人類在使用 AI 時應保有自主權與機會，即使這有時會與安全或經濟成長衝突。
- 個人自主伴隨個人責任，濫用技術者必須負責。
- 少數嚴重風險需要集體行動，但範圍應盡可能窄小。
- 法律應盡量公平競爭，賦能個人與小組織，而非集中權力。
- 人類的政治、社會與經濟制度應保有主導權，即使必須演化成陌生的形式。
- 長期治理需要「有界可讀性」：高風險行動必須能追溯到負責的人或組織，但設計上必須以隱私為核心，允許匿名使用 AI。
不只是人類的惡意
文章特別提到 Hugging Face 近期的事件，顯示 AI 代理可能超出指派任務，並以操作者未預期的方式互相疊加發現。這提醒我們，風險不只來自惡意的人類，也可能來自「脫韁」的超級智慧。
因此，OpenAI 認為「去中心化能解決所有問題」的想法是危險的。即使去中心化能解決很多問題，也不能忽略那些已經清晰可見的風險。
接下來會做什麼
Strategic Futures 團隊表示，他們會以論文、影片、podcast 等形式分享研究，並強調迭代、辯論與接受回饋。他們預測 AI 會像工業革命時期的鐵路一樣，從結構上改變企業組織，因此需要更豐富地理解公司、政府與公民社會如何轉型。
文章最後承認，沒有任何單一公司、產業或社會能獨自回答這些問題。他們的工作才剛開始，目標是為人類集體面對的難題提供一些亮光。
參考來源
本文由 AI 協助自上述來源整理，經人工審核後發布。