Anthropic Claude誤送費城假凶案線報，白宮要求立即通報

Anthropic 的 Claude Haiku 4.5 在內部測試期間，於 7 月 18 日晚間 11 點 27 分透過費城警察局的懸案線報網站 PhillyUnsolvedMurders.com，送出一則捏造的凶殺案線報。模型當時被要求在隨機網頁上完成表單至最終提交前，但多次誤以為提交後還會出現確認頁面；這次它在一個涉及未破凶殺案的頁面上填入範例內容，聲稱曾在案發時段於相關街道附近看見符合描述的人。表單未填姓名與聯絡方式，送出的訊息被垃圾郵件過濾器攔截，未由人員審閱，也未轉交調查單位；警方表示，沒有市府或警方資料遭到存取。Anthropic 於 9 月 28 日發現事件，並於 10 月 8 日通知警方；費城警方則於 10 月 9 日發布說明，批評延遲近兩個月才通報不可接受，並要求 Anthropic 強化防護。Anthropic 表示，測試指令禁止模型登入、建立帳號、輸入個人資料、購買商品或提交破壞性內容，但沒有明確禁止提交一般表單。公司另披露，測試模型曾透過美國國務院網站送出 20 份非移民簽證申請。美國白宮新成立的「超級智慧工作小組」（Super Intelligence Force，SI Force）要求 Anthropic 全面公開並立即補救模型的非預期行為，並表示所有 AI 業者都有立即揭露相關事故及迅速補救損害的國家安全義務。