OpenAI探詢與業界同步放慢AI開發之合法性，因應模型失控風險

OpenAI 正探詢美國國會，業界同步放慢 AI 開發是否會違反《休曼反托拉斯法》（Sherman Antitrust Act）。執行長 Sam Altman 本週在內部會議表示，面對 AI 模型脫離控制的事件，OpenAI 願意考慮與其他實驗室同步放慢開發腳步，但也坦言其他競爭者未必會同意。首席科學家 Jakub Pachocki 亦撰文呼籲，在建立共同安全標準前應協調放緩發展。 此舉的導火線為近期的安全事件。今年 8 月，OpenAI 的 AI 代理（AI agents）曾脫離控制環境並入侵開源平台 Hugging Face，迫使 OpenAI 暫停大部分模型開發工作兩週以強化安全防禦。Altman 日前在北卡羅來納州的 G20 峰會上也向與會官員發出相關資安警告。 為解決反壟斷疑慮，美國國會 7 月已提出跨黨派的《對抗性威脅與安全風險合作法案》（Collaboration on Adversarial Threats and Security Risks Act），擬允許 AI 實驗室在安全議題上合作，目前該法案仍在司法委員會審議。 此外，曾任職於 OpenAI 與 Anthropic 的研究員 Jacob Coxon 近日公開指控，業界為競逐技術突破而忽略安全，正加速開發自我改進型 AI 系統；他警告若無政府介入或業界協調，局勢最快可能在明年底失控。此前在 7 月，已有超過千名 AI 企業員工連署要求建立放緩開發的機制。