開發生態
Cloudflare 整合 Workers AI 與 AI Gateway 為單一控制平面,支援預設監控與統一計費
Cloudflare Blog一手來源
尚未逐項核實
來源為發布方或研究資料;不代表所有主張已獲獨立核實。

Cloudflare 宣布將模型託管服務 Workers AI 與模型代理服務 AI Gateway 整合為單一 AI 控制平面。透過統一的 Workers binding 與 REST API(`/ai/` 端點),開發者不需預先設定,只需在呼叫時將 gateway ID 設為 `default`,系統便會在首次驗證請求時自動建立 Gateway。
這項整合讓開發者能自動獲取完整的請求與回應日誌、各模型 Token 使用量追蹤、延遲分析與成本歸屬。此外,官方正式開放使用 AI Gateway 點數(credits)支付 Workers AI 的推論費用(以往僅限 OpenAI、Anthropic 等外部提供者)。為鼓勵轉換,採用統一計費的用戶將獲得更高的 Workers AI 速率限制。
Cloudflare 同時預告,下一步將推出「模型優先路由」(Model-first routing),未來開發者只需指定所需模型類型,將由控制平面自動處理提供者選擇、故障轉移與負載平衡。
讀原始報導背景
Workers AI 提供託管在 GPU 基礎架構上的推論服務,而 AI Gateway 則作為代理伺服器,負責管理對各模型供應商的請求並提供觀測與安全防護。這類 API 管理機制通常用於發布 API、控制存取權限、執行使用原則,以及收集與分析數據。