跳到主要內容
2026-11-03 日報
模型發布

Anthropic 於 S-1A 警示已非常接近遞迴自我改進(RSI)能力:模型可能即將達到其負責任擴展政策的門檻

TechCrunch AI綜合 3 家報導多家報導
核實資料不足

多個報導來源提及此事;未必是彼此獨立的證據。

本次未取得足夠原文證據

據 TechCrunch 報導,Anthropic 在修訂後的 S-1A 申報文件風險因素章節中表示,公司可能即將符合其《負責任擴展政策》(Responsible Scaling Policy)對「由 AI 驅動的顯著加速進展」的定義,亦即遞迴自我改進(RSI)的門檻。RSI 指 AI 強到能大幅加速自身訓練與能力提升的臨界點。 文件稱,公司已在過去使用 AI 開發新模型,但當時並未察覺其能力的躍升;公司也坦言,未來可能同樣要到加速已發生後才能辨識。文件指出,其內部估計與對未來模型的預期(而非現有模型)顯示可能即將達到該門檻;目前公司尚未將任何現有模型指定為超過門檻,並仍在評估相關數據。 同時,Anthropic 也表示沒有任何模型已跨越 RSI 門檻,並承諾在可預見的未來保留人類參與研發流程。文件引述:「我們不預期能在沒有實質人類監督或理解的情況下,安全地讓 Claude 完全自主設計並建造下一代前沿模型,即使技術上變得可能。」公司因此正在考慮更新其負責任擴展政策,以確保前沿模型開發由人類掌控。 報導也指出,S-1 兼具揭露與行銷功能,對「已接近能自我建造的強大模型」的說法,外界可能抱持懷疑。不過,Claude 在程式、數學與資安方面的能力今年確有大幅進步。
讀原始報導

背景

遞迴自我改進(RSI)指AI系統反覆設計出能力更強的後繼系統,可能引發智慧爆炸,最終產生超級智慧。Anthropic的負責任擴展政策(Responsible Scaling Policy)是一套技術與組織層面的規範,用來管理日益強大的AI系統所帶來的風險。

來源