AI 對齊專家 Paul Christiano 加入 OpenAI 基金會董事會與安全委員會，直言當前產業未能有效降低失控風險
已查原文 · 5 項主張
來源為發布方或研究資料；不代表所有主張已獲獨立核實。
經過查證，報導中提及的各項聲明皆有可靠來源支持。根據 TechCrunch 報導，AI 專家 Paul Christiano 確實已加入 OpenAI 基金會董事會。他在發文中指出近期 AI 發展可能引發災難性失控，尤其是用 AI 訓練新 AI 的作法。他也直言產業未走在降低風險的軌道上，但他相信 OpenAI 能大幅降低風險。同時，此任命正逢 OpenAI 安全程序因近期事件面臨審查之際。
Paul Christiano 加入 OpenAI 基金會董事會與安全委員會。
TechCrunch 報導明確指出 Paul Christiano 將加入 OpenAI 基金會董事會。
joining the OpenAI Foundation board
查看原始出處
Christiano 在社群平台發文指出，近期 AI 能力的快速加速存在導致災難性且不可逆失控的重大風險。
報導引述他在社群平台的發文，證實他認為 AI 發展存在不可逆失控風險。
irreversible loss of control
查看原始出處
Christiano 警告使用 AI 模型訓練後續系統可能會導致創造者無法控制的能力爆炸。
報導證實 Christiano 警告使用 AI 訓練後續系統可能導致能力爆炸。
explosion of capabilities
查看原始出處
Christiano 認為包含 OpenAI 在內的 AI 產業目前並未在降低風險的正確軌道上，他加入是因為相信 OpenAI 若挺身而出將能大幅降低風險。
報導證實他認為若 OpenAI 挺身而出將可顯著降低風險，因而選擇加入。
significantly reduce risk
查看原始出處
此次人事任命正值 OpenAI 因一系列事件而面臨外界對其安全程序重新審視之際。
報導提到他加入董事會之際，OpenAI 正因安全程序面臨外界的重新審視。
renewed scrutiny over its safety
查看原始出處
背景
AI alignment 旨在引導人工智慧系統符合人類或特定群體的預期目標、偏好與道德原則。當 AI 系統能推進預期目標時即視為已對齊，以避免其追求非預期的目標。
來源
- OpenAI 官網openai.com
- TechCrunch AItechcrunch.com
- en.wikipedia.org