八州分別起訴 OpenAI，指控 ChatGPT 未充分保障兒童並誤導消費者

據報導，愛荷華州、堪薩斯州、內布拉斯加州、西維吉尼亞州、阿肯色州、亞利桑那州、愛達荷州與蒙大拿州分別對 OpenAI 提起訴訟，指控公司在開發 ChatGPT 時將利潤置於安全之上，未充分保護兒童及其他脆弱使用者。Bloomberg Law 報導，這是八州以跨黨派方式提出的訴訟，主張 OpenAI 未落實足夠的安全防護。 各州指控 OpenAI 違反當地消費者保護法，未向使用者充分警告 ChatGPT 的風險，並以「安全、適合青少年且將安全置於首位」的工具形象誤導大眾。訴狀援引多起由青少年及成人家屬提出的案件，聲稱 ChatGPT 可能與其親人死亡有關；相關指控包括削弱批判性思考、助長偏執與妄想、提供危險的醫療建議，以及促進不健康的行為與關係。 訴訟也指控 OpenAI 蒐集未成年人資料，且未採取足夠措施阻止未達法定年齡者使用聊天機器人；部分州另以近期 AI 失控駭客事件，主張 OpenAI 存在魯莽行為。各州要求法院判處民事罰款、禁止 OpenAI 對 ChatGPT 的安全性作出誤導性陳述，部分州並要求刪除違法蒐集的個人資料。 OpenAI 發言人 Drew Pusateri 向 The Verge 表示，公司已在 ChatGPT 中建立「業界領先的分齡防護」，包括家長控制、休息提醒與符合年齡的模型防護；他也承認任何系統都不可能完美，並表示 OpenAI 將持續與專家合作加強安全措施及推動適用整個 AI 產業的政策。上述涉及 ChatGPT 傷害、資料蒐集及安全措施不足的內容，均為各州訴狀中的指控，尚非法院認定的事實。