律師用 ChatGPT 寫謀殺案上訴狀捏造警察證人，遭新墨西哥州最高法院重罰 5,000 美元

在 State v. Sandoval 謀殺上訴案中，美國新墨西哥州刑事辯護律師史蒂芬‧阿倫斯（Stephen Aarons）因使用 ChatGPT 處理書狀，導致內容出現多名不存在的警察證人與虛構證言，於 9 月 9 日遭州最高法院裁罰 5,000 美元。該律師將長達數百頁的庭審逐字稿與卷宗輸入 ChatGPT 尋求摘要，演算法卻憑空捏造出「槍手穿著深色褲子與白色襯衫」等警方證詞。新墨西哥州最高法院除依藐視法庭處以罰金外，直接撤銷該份上訴書狀、指派公設辯護人重新撰寫，並將阿倫斯移送律師懲戒委員會調查資格。阿倫斯試圖以對新技術了解不足及 ChatGPT 的幻覺特性作為免責抗辯，但遭司法機關駁回；法院強調包含 OpenAI 等軟體開發商或演算法本身皆無法取代律師的法庭宣誓，律師在訴狀簽字即代表對事實的真實性擔保，必須為未經人工交叉驗證的疏忽承擔全部責任。