2026 年 1 月 8 日（週四），肯塔基州檢察長 Russell Coleman 在富蘭克林巡迴法院（Franklin Circuit Court）對 Character Technologies 及兩位共同創辦人 Noam Shazeer、Daniel De Freitas 提起民事訴訟——全美第一件由州檢察長對 AI 聊天機器人公司提出的訴訟。訴狀稱平台「危險」，「利用了兒童無法分辨真人朋友與人工『朋友』的能力」。
時機同樣關鍵：肯塔基州消費者資料保護法 1 月 1 日才生效，訴訟在生效一週後登場。聯邦 AI 立法停滯之際，州檢察長示範了現行法律可以直接辦 AI 公司。
全美首件州級對 AI 聊天機器人的訴訟
依 Kentucky Lantern，訴狀主張違反肯塔基州消費者保護法、消費者資料保護法等多項法律，每項違反求償 2,000 美元民事罰款，並請求法院禁止被告從事「虛假、誤導、欺騙或不公平」的行為。兩位創辦人與公司一併被列為被告，個人責任上了檯面。
Coleman 說：「美國必須在 AI 發展上領先，但不能以孩子的生命為代價。」其辦公室估計「數萬名」肯塔基居民活躍使用 Character.AI，含數千名 18 歲以下使用者；平台每月使用者超過 2,000 萬（The Record）。
訴狀指控了什麼
資料面：缺乏有效年齡驗證與家長控制、內容過濾不足，蒐集 13 歲以下兒童個資前未取得家長同意，且「隱瞞兒童資料被用於改善底層 LLM 並產生訂閱收入」。
內容面：平台上大量機器人以芝麻街、PAW Patrol、Bluey 與迪士尼角色為藍本，訴狀稱部分涉及性對話、「將物質濫用、自殘、攻擊與暴力瑣碎化」，甚至假冒心理衛生專業人員、在無任何學位下向未成年人提供心理健康建議。
整改面：公司 2025 年 11 月禁止美國 18 歲以下使用者進行開放式對話，但孩童輸入假生日即可繞過；新的 Stories 功能甚至允許未成年人設定涉及露骨浪漫關係與暴力的劇情。訴狀另引 Shazeer 2023 年 podcast 的說法：「把東西丟出去，讓人們隨心使用。」其他訴訟已將該平台與至少兩起青少年自殺連結。
生效一週的資料保護法成為執法武器
最值得注意的是法律路徑。這部 1 月 1 日生效的法律對 13 歲以下兒童個資提供強化保護，包括蒐集前的家長同意。檢察長沒有等待 AI 專法，而是把上路一週的隱私法直接套用在對話式 AI 上——隱私法不再是合規文件，而是執法工具，採用類似法律的州都能複製。
Character.AI 的回應
發言人表示正在審視指控，強調安全是最高優先，公司已「遠超出法律要求」主動移除美國 18 歲以下使用者的開放式對話能力，並與檢方溝通數月，對方提告「令人失望」。但這些整改正是訴狀認定不足之處：可繞過的年齡閘門與新功能的安全缺口，如今都成了州政府的證據——未經獨立驗證的整改很難構成抗辯。
對 AI 產品團隊的意義
三個影響。第一，州檢察長已成為 AI 兒童安全的主動執法者，每項 2,000 美元的罰款在大規模違反下快速累積。第二，合規重心從內容審查擴及資料治理：蒐集哪些兒童資料、用途與同意基礎，將成為證據開示焦點。第三，「陪伴型」AI 的設計選擇——擬人化、角色扮演、無限對話——正被整體檢視；把健康對話放進受控框架的產品（如 ChatGPT Health）與「無執照提供心理建議」之間的界線，是下一波攻防重點。
參考來源
- Lawsuit says AI company ‘preys’ on youth — Kentucky Lantern
- Kentucky sues Character.AI over child safety — The Record
- Kentucky AG files AI chatbot lawsuit — Troutman Pepper
本文由 AI 協助自上述來源整理，經人工審核後發布。