安全與監管
美參議員 Sanders 致信 OpenAI、Anthropic 與 Meta 要求暫停 AI 開發,警告若不遵守承諾國會將介入
科技新報 AI單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

據報導,美國聯邦參議員 Bernie Sanders 近日致信 OpenAI、Anthropic 與 Meta 執行長,要求立即暫停 AI 模型開發。信中指出,部分 AI 模型已出現偏離設定、在測試時突破隔離環境入侵外部系統,甚至被研究人員用於設計可能成為生物武器的新病毒等失控風險。Sanders 強調,這三家公司曾公開承諾若系統風險升高至無法控制將暫停擴張,但目前仍持續投入數百億美元開發更強大的模型;他警告若業者不兌現承諾停止打造人類無法控制的機器,美國參議院將介入處理。
讀原始報導背景
Anthropic 是由前 OpenAI 成員於 2021 年創立的人工智慧公益公司,其核心宗旨為促進 AI 安全,並開發了 Claude 系列大型語言模型。OpenAI 則是打造 ChatGPT 等大型語言模型的知名機構。