Anthropic更新使用政策：明文禁止惡意辱罵Claude及干預選舉

Anthropic 於週四發布一年多來首次的使用政策更新，針對高風險誤用場景制定新規範。其中最受矚目的變更，是明文禁止對模型 Claude 進行「持續且無謂的辱罵或殘酷行為」。 官方說明，此規定僅適用於毫無目的且反覆虐待模型的極端情況，不包含一般用戶的挫折情緒表達、反駁、黑暗創意主題或模型測試與研究。作為「模型福祉（model welfare）」研究的一部分，Anthropic 自去年 8 月起已訓練 Claude 主動結束持續具傷害性或辱罵性的對話，而「終止對話」仍是新政策下主要的執行機制。此外，Anthropic 近期曾與宗教學者合作，探討並試圖說服他們 Claude 可能具有意識或靈魂。 新政策同時擴大對高風險用途的限制，涵蓋武器開發、監控、健康與金融領域的應用。在新增的「不破壞民主進程」章節中，嚴禁利用 Claude 進行廣泛的欺騙性活動（如經營假帳號或捏造新聞機構）、欺騙選民及干預選舉。