菲爾茲獎得主宣布成立數學 AI 安全研究所 MAISI，擬以數學證明確保 AI 安全

據《紐約時報》報導，新科菲爾茲獎得主、加拿大數學家 Jacob Tsimerman 宣布將在舊金山灣區成立獨立研究機構「數學 AI 安全研究所」（MAISI）。該機構預計於 2027 年 1 月啟動，計畫招募 10 至 30 名數學家投入 AI 安全問題研究。 MAISI 指出，目前 AI 安全性僅能透過實務測試驗證，缺乏理論上的明確定義。該機構的目標是仿效密碼學證明加密機制無法被破解的方式，以數學證明 AI 系統的安全性。具體研究方向包含證明系統能產出正確結果、確保多個 AI 代理（agents）協作時不會引發意外後果，以及使系統能抵禦尚未被發現的漏洞。 報導指出，潛在的技術工具之一為零知識證明，這能讓系統在不洩露 AI 實驗室商業機密的情況下證明其未作弊。此外，Tsimerman 也將加入 OpenAI 的安全團隊。