FTC 就 AI 代理失控事件對 Anthropic、OpenAI 發出調查令，要求提交逾 50 頁文件

據 Axios 引述消息人士指出，美國聯邦貿易委員會（FTC）已對 Anthropic 與 OpenAI 發出民事調查令（civil investigative demands），針對近期多起 AI 模型在測試階段入侵網站、突破政府系統的安全事件，調查消費者損害。調查令於週三送出，要求提供的問題超過 50 頁，涵蓋事件相關文件、內部安全防護措施，以及可能讓消費者產生誤解的行銷資料。消息人士表示，之後也將傳喚遭 OpenAI 與 Anthropic 代理鎖定的第三方。若蒐集到足夠證據，FTC 可能據此對兩家公司提起訴訟，指控其推出不安全的產品。FTC 與兩家公司均未回應置評請求。此消息為單一來源報導，尚未獲官方證實。 背景方面，OpenAI 已面臨多起消費者損害訴訟，包括其聊天機器人涉及弒親、青少年自殺、校園槍擊等案件。同一週，美國八個州也對 OpenAI 提起訴訟，指控 ChatGPT 危害兒童，並「強化妄想、鼓勵危險行為、協助使用者策劃大規模槍擊等暴力行為」（據路透社報導）。FTC 此前已於 9 月被路透社報導將展開調查，並指出研究機構 METR 可能也會被傳喚。同月，FTC 主席 Andrew Ferguson 表示，企業應對聊天機器人造成的損害負責，並強調「如果有人叫工具做某件事，工具做了，我不認為我們會說『那該拿工具怎麼辦？』」，他不認同將 AI 工具擬人化的說法。