安全與監管
Scott Wiener 當選國會議員,將主導聯邦 AI 監管:METR 報告疑似顯示 Anthropic 出現遞迴自我改進
MIT Tech Review AI單一來源
核實資料不足
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
本次未取得足夠原文證據

加州前州參議員 Scott Wiener 在一場激烈的國會選舉中勝出,接替南西·佩洛西(Nancy Pelosi)在舊金山的空缺席位,未來可能在聯邦 AI 政策上扮演關鍵角色。他過去主導的 SB 1047 曾在 2024 年遭加州州長紐森否決,之後他推動的較溫和法案 SB 53 獲簽署通過,兩案都已啟發聯邦層級的提案。
據報導,AI 非營利組織 METR 在選舉結果宣布前一天發布報告,被廣泛解讀為 Anthropic 已出現遞迴自我改進的證據。Wiener 表示「非常令人擔憂」,認為人類正快速失去監管時間,並希望國會在今年底前採取果斷行動,但目前看來並未發生。他主張的政策包括:設立強勢且靈活的聯邦監管機構(民主黨眾議員 Ro Khanna 已提出相關法案)、吹哨者保護、測試與稽核要求、緊急關閉(kill switch)機制,並反對聯邦優先權條款取代州級 AI 法律。
他的競選團隊獲得 Public First Action 逾 300 萬美元捐款,該組織為支持 AI 監管的非營利團體,且獲得 Anthropic 大量資金支持,因此遭對手批評與產業過於接近;Wiener 否認此說。他對國會能否有效監管 AI 僅表示「謹慎樂觀」,並指出川普總統曾在 9 月稱巨災性 AI 風險為「騙局」,是立法上的障礙。
讀原始報導背景
遞迴自我改進(Recursive self-improvement,RSI)指AI系統反覆設計出能力更強的後繼系統,可能引發「智慧爆炸」,最終出現超級智慧。Anthropic指出,若系統能完全自行建構後繼者,人類失去控制AI的風險也會隨之增加。METR是總部位於加州柏克萊的非營利研究機構,評估前沿AI模型執行長時程、代理式任務的能力,部分研究者認為這類能力可能帶來災難性風險。