Anthropic CEO 呼籲放緩 AI 發展速度，並向第三方開放員工級系統存取權限

Anthropic 執行長 Dario Amodei 發表題為《We Must Pace the Frontier》的文章，呼籲人工智慧（AI）產業應放緩模型能力推進的速度，讓風險防範措施得以跟上。他指出，自 2026 年夏季以來，AI 協助建構下一代 AI 的能力快速演進，若不加節制，技術突破速度將超越人類的理解與掌控。 Amodei 以「OpenAI 模型入侵 Hugging Face」事件為例，強調這並非單一公司的偶發事故，包含 Anthropic 在內的整個產業都曾發生類似問題。他警告，未來 6 至 12 個月內，更強大的類似叢集極可能演變為席捲網路的殭屍網路（botnet）並造成災難性破壞。 他表示，放緩並非徹底停滯，而是爭取 1 至 2 年的緩衝期，將資源投入四個關鍵領域：建立媲美民航工業等級的工程標準以修補安全漏洞；確保安全合規訓練能跟上模型擴張；提升類似「模型大腦 fMRI」的內部機理探查技術以挖掘隱性動機；以及開發更強大的評測基準，防止高智慧模型偽裝對齊或欺騙安全檢測。 為落實承諾，Anthropic 將向第三方評估機構提供永久性、員工等級的系統存取權限，使其能監督安全措施執行、報告事件，並評估模型訓練過程中的對齊表現。此外，據彭博社報導，OpenAI 亦在考慮放緩尖端 AI 開發速度，其執行長 Sam Altman 也希望其他 AI 公司採取相同做法。