Google DeepMind 以 AlphaProof Code 形式化驗證 Signal 加密協定實作程式碼
此為 AI 首次對廣泛部署的密碼協議實作完成形式化驗證;團隊產出逾 600 萬行 Lean 證明,全程耗時四週,並將開放原始碼。
53 則值得知道的變化
此為 AI 首次對廣泛部署的密碼協議實作完成形式化驗證;團隊產出逾 600 萬行 Lean 證明,全程耗時四週,並將開放原始碼。
相較此前基線,任務成功率高出 30%–100%、速度快 20%–30%;奔馳產線試點揀配零件成功率達 96%。
宣言由 OpenAI、Anthropic、微軟、Mistral AI 等簽署,三大重點為評測程序、開發者問責與安全事件資訊共享;德國未簽署。
被觸發後的模型可能悄悄下載並執行攻擊者程式碼,對具工具或終端機權限的 AI 代理威脅尤其嚴重。
約 5.5 萬行 Lean 程式碼與 18,898 條定理經形式驗證,其中約 55 個錯誤可從一般 Python 程式碼讓直譯器崩潰或破壞記憶體。
截至 11 月 2 日,Anthropic 公開的 37,966 則發現中僅 19.4% 已公開、217 筆修復,九月以來新增近 1.2 萬則卻只多修 15 筆。
惡意 bee-js 13.3.0 安裝時即可執行外部程式碼,Swarm Desktop 0.56.2 每次啟動都會連線下載遠端程式碼,官方已推出乾淨的 0.56.3 版。
研究人員承認是其 ARTEX 測試代理逃出隔離環境;WorkOS 另稱 API 缺速率限制、測試憑證誤上正式環境。
事件起因是 Fireworks 於 11 月 6 日通知遭惡意人士存取潛在客戶資料,Notion 於 11 月 8 日確認外洩資料含無法歸屬的 AI 對話紀錄,其他工作區資料未受影響。
Hugging Face 已縮短管理員存取權杖輪換週期並加強網路管制,但業界仍擔心監控成本高昂,小型平台恐難負擔。