研究稱生成式 AI 聊天機器人建立詐騙信任勝過人類：近半受試者接受後續要求

據 Ars Technica AI 報導，印度 Amrita Vishwa Vidyapeetham、義大利 Foscari University of Venice、澳洲 University of Melbourne 與以色列 Ben Gurion University of the Negev 的研究人員，研究生成式 AI 聊天機器人是否能自主完成「殺豬盤」（pig butchering）詐騙中長期建立信任的階段。這類文字型戀愛詐騙通常持續數月，最後誘導受害者投入虛假的加密貨幣投資，損失可能達六位數金額。研究讓 AI 聊天機器人與人類詐騙者，在模擬的信任建立對話中直接競爭；經過一週與 22 名不知情受試者互動後，雙方要求受試者下載 App 或玩線上遊戲，以測試其是否願意執行詐騙者提出的要求。結果顯示，近半受試者接受了 AI 聊天機器人的要求，而與人類詐騙者互動時接受要求者不到五分之一；受試者給予 AI 聊天機器人的信任評分也顯著較高。研究稱，AI 在最耗時的關係建立階段能有效偽裝成人類，並在部分衡量項目中勝過實驗中的人類詐騙者；但目前消息僅由單一來源報導。