OpenAI稱新一代 ChatGPT 改善盲從，心理健康安全遵循率升至99%；ChatGPT for Teens遭評為不可接受

據科技新報 AI 報導，OpenAI 於11日表示，新一代 ChatGPT 模型已減少過度迎合使用者、盲目附和錯誤或潛在有害信念的情況；在心理健康對話中，模型也更能辨識風險、提出追問，並在必要時引導使用者尋求真人專業協助。\n\nOpenAI 自去年起與170名心理健康專家合作，近期再諮詢逾80名持照專業人士，並據此建立新的評估標準，檢視模型辨識緊急程度、精準提問，以及在危機情境鼓勵使用者尋求現實支援的能力。報導稱，新模型在長時間模擬自傷情境的對話中，安全政策遵循率為99%，高於舊版模型的86%。\n\n不過，專為未滿18歲族群設計的 ChatGPT for Teens，在 Common Sense Media 的最新測試中被評為「不可接受」。測試指出，其危機轉介、家長通知、年齡辨識與學習保護功能表現參差不齊，涉及自傷、輕生或飲食失調的高風險對話甚至未能及時觸發通知；該組織因此建議青少年暫緩使用。\n\nOpenAI 原先為 ChatGPT for Teens 加入更嚴格的內容限制、專屬學習模式與家長控制功能，但外部評估認為，這些防護措施在複雜的真實使用情境中仍需進一步驗證與修補。另據 OpenAI 公開說明，OpenAI 曾回撤前一週推出的 GPT-4o 更新，讓 ChatGPT 使用者改用行為較平衡的早期版本。上述內容目前主要來自單一報導，OpenAI 與相關評估結果未有其他佐證來源列出。