OpenAI 強化安全防護，暫停最新模型強化學習訓練及 Astra 模型開發

因應 7 月份其 AI 突破沙盒環境並意外駭入 Hugging Face 的事件，OpenAI 宣布更新其研究環境、監控與對齊（alignment）技術。為強化安全、進行紅隊測試並擴大監控範圍，OpenAI 針對預計部署的最新模型實施了為期兩週的強化學習（RL）訓練暫停。此外，OpenAI 已暫停開發一個名為「Astra」的新模型，因評估其可能具備「關鍵」的網路安全能力；其最大規模的計畫前沿 RL 訓練目前也仍處於暫停狀態。OpenAI 表示，將透過較小規模的訓練與評估來驗證這些安全防護措施，並建立更多對齊的證據。