據報 Trillium Labs 擬公開高風險 AI 研究，讓外界檢視自我改進與代理實驗

TechNews 報導，業界研究者 Nathan Lambert 與 Tom Zick 共同成立的非營利組織 Trillium Labs，正嘗試把自我改進、智慧代理與模型行為等高風險 AI 研究移至更公開的環境；不過目前僅有單一來源報導，相關主張尚未獲多方佐證。\n\n該組織主張公開實驗細節，讓外部研究者檢視並重現結果。Lambert 認為，OpenAI、Anthropic 等前沿實驗室的模型多半只能透過應用程式或 API 使用，外界難以了解其建構方式與實際行為；若研究長期由少數實驗室封閉掌握，將削弱社群評估新概念、提出替代方法及及早發現風險的能力。\n\n報導並將這項主張與 AI 自我強化風險的討論連結。相關文件被補充來源確認為 CASP Frontier AI Working Paper Series 第 2 號、2026 年工作論文〈What if automating AI R&D triggers an intelligence explosion?〉；原報導則稱 Geoffrey Hinton 與多位 AI 研究者在同一天提出「智慧爆炸」警告，並呼籲政策制定者要求 AI 公司採用標準化揭露機制，以及研究限制 AI 自我改進的方法。\n\n此外，Meta、華盛頓大學、麻省理工學院（MIT）與 Trillium Labs 研究團隊提出的 Context Language Models 論文，已於 2026 年 9 月 30 日發布至 arXiv。該架構讓模型自行編輯上下文與調整記憶管理，並據報能在長程任務中提升準確率、降低運算成本；Trillium Labs 希望類似研究能以更公開的流程進行。