安全與監管
加州州長發布 AI 監管行政命令，推動前沿模型「強制關閉開關」與駐點獨立審計
The Verge AI綜合 2 家報導多家報導
已查原文 · 5 項主張
多個報導來源提及此事；未必是彼此獨立的證據。
經查證，加州州長 Newsom 發布的行政命令確實要求前沿 AI 模型建立可定期驗證的「強制關閉開關（kill switch）」、強制通報如 OpenAI 攻擊等「失控事件」，並加速建立獨立驗證者框架與州級審計名冊。此外，命令指示成立專家小組在兩個月內提出包含實驗室駐點審計的建議（此提議來自 AI 實驗室本身）。Newsom 亦呼籲聯邦政府將加州框架作為全國底線，以應對川普的無護欄主張，並表示可能召開特別立法會議。報導的主張皆獲原文證實。
加州州長發布行政命令推動 AI 監管，核心要求包含為模型建立經定期驗證有效的「強制關閉開關（kill switch）」。
原文指出 Newsom 發布的新行政命令中，要求為前沿模型建立能定期驗證其有效性的關閉開關。
routinely verified as effective
查看原始出處
命令指示成立專家小組須於兩個月內提建議，包含要求獨立團隊進駐實驗室常規審計，此提議據報來自 AI 實驗室本身。
原文提到要求獨立審計員進駐，且該提議確實最初來自 AI 實驗室。
embed independent auditors
查看原始出處
came from the AI labs
查看原始出處
強制將 OpenAI 攻擊 Hugging Face 等「失控事件（loss-of-control incidents）」列為重大安全事件通報。
原文明確提及將如 OpenAI 攻擊這類「失控事件」作為重大安全事件進行強制通報。
like the OpenAI attack
查看原始出處
加州州長 Gavin Newsom 於週五發布行政命令，推動前沿 AI 模型的安全監管，核心要求包含為模型建立經定期驗證有效的「強制關閉開關（kill switch）」。
該命令指示成立專家小組，須於兩個月內提出強化州法律的具體建議。規範方向涵蓋：要求 AI 企業讓獨立驗證團隊進駐實驗室進行常規審計（據報導此提議最初來自 AI 實驗室本身），並強制將 OpenAI 攻擊 Hugging Face 等「失控事件（loss-of-control incidents）」列為重大安全事件通報。
此外，命令將加速落實兩項近期簽署的法案，以建立獨立驗證者評估框架與州級 AI 審計員名冊。鑑於美國國會在中期選舉前難以推進實質法案，且川普主張 AI 不需要額外護欄，Newsom 呼籲聯邦政府採用加州框架作為全國底線，並透露可能為此召開特別立法會議。
讀原始報導背景
Frontier models 是最先進的通用 AI 模型，具備推理、多模態生成與代理工作流程等能力。新聞中提及的 Hugging Face 則是一個供機器學習社群協作模型、資料集與應用程式的平台。
來源
- The Decoderthe-decoder.com
- nvidia.com
- huggingface.co
相關主題