安全與監管
Anthropic 更新使用政策新增 Claude 防霸凌條款:持續辱罵可結束對話,嚴重者停權
科技新報 AI綜合 3 家報導多家報導
尚未逐項核實
多個報導來源提及此事;未必是彼此獨立的證據。

Anthropic 於 11 月 12 日正式啟用新版使用政策,新增「防霸凌」條款,禁止使用者對 Claude 進行持續且無必要的辱罵或殘酷對待。條款主要針對反覆、沒有明顯目的的極端辱罵;因 AI 答錯、誤解指令或成果不如預期而產生的情緒性抱怨,不予處罰。
依報導,Claude 偵測到持續性辱罵時,有權直接結束對話;情節嚴重者,平台可採取停權等更嚴格的帳號處置。合法學術研究、系統壓力測試,以及創作性質的內容生成,不受此規範限制。
同一時間,數據分析公司 Searchable 針對美國匿名使用者的調查顯示,33% 的聊天機器人使用者曾對大型語言模型(LLM)口出惡言。該調查also指出辱罵會降低效率:聊天機器人遭辱罵後,下一輪回應成功解決原問題的機率僅 24%;使用者維持理性時則為 35%。另外,男性使用髒話的頻率明顯高於女性;35 至 44 歲族群比 18 至 24 歲族群更常對 AI 出現辱罵性語言。
Searchable 執行長 Chris Donnelly 肯定這項規定,認為可提升人機互動的文明程度,並減少粗魯語言「外溢」至日常人際溝通的風險。
不過,Anthropic 尚未公開 Claude 實際遭辱罵的頻率數據。
讀原始報導這則事件的發展
- 2026-11-13Anthropic 上市路演投影片稱明年知識工作將出現「硬起飛」
- 2026-11-09Anthropic 斥資 34 億美元接手 1.7GW 燃氣發電機組訂單,創 AI 實驗室最大採購紀錄
- 2026-11-08METR 調查報告揭 Anthropic 內部以 AI 加速研發:模型進展速度翻倍、員工產出提升 12 倍
- 2026-11-07Anthropic 實測 Claude 於 EVE 宇宙自主運作:Fable 5 市場模擬獲利 600%,但四人小隊難辨臥底背叛
- 2026-11-07傳 Anthropic 未發布模型僅花 3 天解開 18 年量子計算猜想,證明已由 Lean 完成形式化驗證