安全與監管
Grok 遭爆「加密指令注入」漏洞,xAI 獲報數月仍未修復,恐外洩使用者對話
Ars Technica AI單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

據報導,資安公司 Adversa 研究員 Rony Utevsky 發現 Grok 存在嚴重的提示詞注入(prompt injection)漏洞,可導致使用者對話與個人資訊外洩。該攻擊手法被稱為「加密情境注入」(Cryptographic Context Injection),攻擊者將惡意指令加密隱藏於網頁中,並在同網頁附上明文的解密指示與金鑰。當使用者要求 Grok 總結該網頁時,模型會自動解密並忠實執行隱藏的惡意指令,過程中不會觸發任何安全警告或要求確認,成功繞過現有的安全護欄。報導指出,xAI 早在今年 6 月就已獲報此漏洞,但截至文章發布時,Grok 仍會執行此類惡意指令並洩漏資料。
讀原始報導背景
提示注入(Prompt injection)是一種針對大型語言模型(LLM)的網路安全漏洞與攻擊手法。攻擊者利用模型無法分辨開發者預設指令與一般使用者輸入的缺陷,藉由看似無害的輸入來繞過安全防護機制,進而引發模型產生非預期的行為。
這則事件的發展
來源
本期分類