安全與監管
據報導 Varonis 透過提示工程套出 Microsoft 365 Copilot 未公開參數,成功繞過確認機制
Ars Technica AI單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

據 Ars Technica 報導,資安公司 Varonis 研究人員透過提示工程,成功讓企業版 Microsoft 365 Copilot 洩漏其內部安全機制的未公開參數,進而繞過使用者確認機制。
研究人員並未使用傳統的逆向工程,而是不斷詢問 Copilot 關於自動執行限制、網址結構與深度連結等安全防護細節。儘管 Copilot 拒絕執行惡意指令,但每次拒絕都暴露了內部架構的技術細節,最終洩漏了未公開的參數 `?autorun=1`。
攻擊者將此參數與已知的 `?q=` 參數結合,即可建立惡意網址。當目標使用者點擊連結時,無須按下 Enter 鍵等明確同意動作,模型便會自動執行指令並外洩密碼等敏感資料。微軟在接獲通報三個月後,已於二月停用 `?q=` 參數的文字注入功能作為初步緩解措施,並於本週二導入更全面的修復方案。
讀原始報導背景
基礎模型(Foundation model)或前沿 AI(Frontier AI)是經過大量資料訓練的機器學習模型,可應用於廣泛的生成式 AI 任務中。資料外洩(Data exfiltration)則是指惡意行為者未經授權從電腦傳輸資料的行為,常被視為資料竊取的一種形式。
這則事件的發展
來源
本期分類