開發生態
Cloudflare AI Gateway 更新 User Insights:新增模型過度使用分析與 Auto Router 公測
Cloudflare Blog一手來源
尚未逐項核實
來源為發布方或研究資料;不代表所有主張已獲獨立核實。

Cloudflare 為其 AI Gateway 的 User Insights 推出更新,加入上下文分析能力,協助開發團隊識別 AI 模型的過度使用情況,此功能對 AI Gateway 用戶免費開放。
更新包含「模型過度使用(Model overkill)」介面,可揪出將高階推理模型用於簡單格式化或摘要等「大材小用」的請求,並追溯至特定的使用者、AI 代理或應用程式。系統新增「任務分析」,將對話依工作類型分群,初始類別包含程式開發、研究、寫作、摘要與資料分析;同時提供「對話輪次分析」,顯示完成任務所需的來回次數,以評估包含時間與代幣在內的完整成本。
配合此次更新,Cloudflare 同步推出「潛在節省(Potential Savings)」介面與 Auto Router 的公開測試版(public beta)。Auto Router 能夠自動應用任務與模型適配訊號,將請求導向速度更快或成本更低的模型,無需為每個工作負載單獨設定路由規則。
讀原始報導