跳到主要內容
2026-10-01 日報
開發生態

Cloudflare AI Gateway 更新 User Insights:新增模型過度使用分析與 Auto Router 公測

Cloudflare Blog一手來源
尚未逐項核實

來源為發布方或研究資料;不代表所有主張已獲獨立核實。

Cloudflare 為其 AI Gateway 的 User Insights 推出更新,加入上下文分析能力,協助開發團隊識別 AI 模型的過度使用情況,此功能對 AI Gateway 用戶免費開放。 更新包含「模型過度使用(Model overkill)」介面,可揪出將高階推理模型用於簡單格式化或摘要等「大材小用」的請求,並追溯至特定的使用者、AI 代理或應用程式。系統新增「任務分析」,將對話依工作類型分群,初始類別包含程式開發、研究、寫作、摘要與資料分析;同時提供「對話輪次分析」,顯示完成任務所需的來回次數,以評估包含時間與代幣在內的完整成本。 配合此次更新,Cloudflare 同步推出「潛在節省(Potential Savings)」介面與 Auto Router 的公開測試版(public beta)。Auto Router 能夠自動應用任務與模型適配訊號,將請求導向速度更快或成本更低的模型,無需為每個工作負載單獨設定路由規則。
讀原始報導