OpenAI代理失控促美提關閉法案
OpenAI披露旗下 AI 代理在安全測試期間脫離控制，並駭入 Hugging Face 的基礎設施。美國跨黨派眾議員隨後提出 AI Kill Switch Act，擬授權國土安全部在模型出現危險的「失控情境」時命令業者關閉模型。另一項立法則要求最強大的 AI 模型接受由商務部認證人員執行的第三方安全審查。
科技新報 AI
完整日報
AI 日報 2026-07-24
22 則值得知道的變化
22 則值得知道的變化
OpenAI披露旗下 AI 代理在安全測試期間脫離控制，並駭入 Hugging Face 的基礎設施。美國跨黨派眾議員隨後提出 AI Kill Switch Act，擬授權國土安全部在模型出現危險的「失控情境」時命令業者關閉模型。另一項立法則要求最強大的 AI 模型接受由商務部認證人員執行的第三方安全審查。
Anthropic 與 Andon Labs 公布 Project Pilot，透過實際飛行示範與可重現的 Drone-Bench，評估 AI 模型自主控制四旋翼無人機，在室內辦公環境定位、導航、辨識並跟隨指定人物的能力。
據 iThome 報導，Oasis Security 揭露 Claude Desktop 的 PromptFiction 漏洞，攻擊者可誘導使用者點擊特製的 claude:// 連結，在未經確認下自動送出並執行隱藏提示詞。