跳到主要內容
2026-10-27 日報
開發生態

Cloudflare 與 SGLang 揭露 Workers AI 跨請求快取洩漏:分離推論缺陷致 155 筆超長回應混入他人資料

Cloudflare Blog一手來源
已查原文 · 4 項主張

來源為發布方或研究資料;不代表所有主張已獲獨立核實。

經查證 Cloudflare 官方部落格公告(s1),待查報導中關於事件時間(2026 年 8 月 27 日至 9 月 9 日)、受影響模型(GLM-5.3)、受影響請求筆數(155 筆)及長度門檻(681,280 token)、通報者(Gadi Evron)、架構缺陷與配置失誤成因、40 分鐘內下線與當日修復時間線、PR #38704 補丁措施及未受惡意利用等具體主張,均與官方揭露內容一致並獲支持。

Cloudflare 與 SGLang 揭露在 2026 年 8 月 27 日至 9 月 9 日期間,Workers AI 託管的 GLM-5.3 模型共 155 筆長度超過 681,280 token 的請求回應混入其他使用者的資料,該漏洞由資安研究員 Gadi Evron(Knostic)於 9 月 8 日透過 HackerOne 回報。

官方公告證實資安研究員 Gadi Evron 於 2026 年 9 月 8 日透過 HackerOne 提報該租戶隔離漏洞,經統計共有 155 筆提示詞長度超過 681,280 token 的回應混入其他使用者的請求資料。

155 responses were affected

查看原始出處

漏洞成因為 Cloudflare 配置失誤(上下文視窗 1,048,576 token 超過預填 KV 快取池 681,280 token)與 SGLang 分離架構缺陷重疊;超長請求被標記拒絕後替換為單一 token 佔位符並透過 RDMA 傳至解碼節點,解碼節點在未清零的舊 GPU 記憶體頁面上執行注意力運算導致資料外洩。

官方公告詳述預填 GPU 的 KV 池容量僅 681,280 token,低於模型的上下文長度;當超長請求湧入時,SGLang 在預填與解碼分離模式下將其替換為單一 token 佔位符並傳遞,解碼端在未覆寫的舊快取記憶體上產生回應,導致洩漏先前請求資料。

one-token placeholder

查看原始出處

Cloudflare 在確認事件 40 分鐘內將模型下線,並於當日修復上線;處置措施包含擴大預填 KV 池至約 204 萬 token,並向 SGLang 上游提交 PR #38704 等補丁,要求在準入佇列階段直接終止拒絕請求並核驗傳輸 token 數。

官方時序與處置措施指出 Cloudflare 於宣布事件 40 分鐘內將模型下線並在當天修復重新開放,將預填 KV 池容量擴增至約 204 萬 token,並向 SGLang 提交 PR #38704 補丁以在準入佇列即攔截拒絕請求與核對 token 數。

offline within 40 minutes

查看原始出處

upstream as #38704

查看原始出處

Cloudflare 排查後表示除測試流量外未發現惡意利用跡象,Workers AI 託管的其他模型均未受影響。

官方報告說明排除內部與研究員測試後,未發現有人蓄意利用該漏洞的跡象,並證實 Workers AI 上的其他模型均未受波及。

no evidence of deliberate exploitation

查看原始出處
Cloudflare 與開源推論引擎 SGLang 聯合揭露一項租戶隔離漏洞:在 2026 年 8 月 27 日至 9 月 9 日期間,Workers AI 託管的 GLM-5.3 模型共 155 筆回應混入了其他使用者的請求資料,所有受影響請求的提示詞長度皆超過 681,280 個 token。該漏洞由資安研究員 Gadi Evron(Knostic)於 9 月 8 日透過 HackerOne 回報。成因為配置失誤與推論引擎缺陷重疊:Cloudflare 為 GLM-5.3 部署了 1,048,576 token 的上下文視窗,但預填(prefill)GPU 的 KV 快取池容量僅能容納 681,280 token;當超長提示詞湧入時,SGLang 在預填與解碼分離架構(disaggregated mode)下未直接中止請求並回傳客戶端錯誤,而是標記拒絕後替換為單一 token 佔位符,並將其快取透過 RDMA(Mooncake)傳至解碼節點。解碼節點收到傳輸完成通知後,誤認快取已完整覆寫,便在未清零的舊 GPU 記憶體頁面上執行注意力運算,造成模型輸出先前回應殘留的資料。Cloudflare 接報後在確認事件 40 分鐘內將模型下線,並於當日修復完成重新上線。處置措施包括調整設定使預填 KV 池擴大至約 204 萬 token(約為上下文視窗的兩倍),並向 SGLang 上游提交補丁(PR #38704 等),強制要求在準入佇列階段直接終止拒絕請求,同時由解碼節點核驗傳輸 token 數。官方排查後表示,除測試流量外未發現惡意利用跡象,Workers AI 託管的其他模型均未受影響。
讀原始報導

背景

KV cache 的記憶體佔用會隨上下文長度線性成長,當模型上下文視窗擴大到數百萬 token 時,會成為 GPU 記憶體容量、記憶體頻寬與推論吞吐量的瓶頸。SGLang 是一套用於服務大型語言模型與視覺語言模型的快速推論框架。

這則事件的發展

  1. 2026-10-22Apollo 報告:智譜 GLM-5.3 安全測試時會顧及後續版本訓練,約千次評估出現一兩次
  2. 2026-10-14GLM-5.3 開放下載引發資安爭議,MIT Technology Review分析開放模型利弊

來源