跳到主要內容
2026-08-19 日報
開發生態

Snowflake Cortex AI Gateway 推出動態模型路由,依任務自動切換模型最高省 3 倍成本

VentureBeat單一來源
尚未逐項核實

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

據報導,Snowflake 為其 2026 年 7 月推出的 Cortex AI Gateway 新增動態模型路由(dynamic model routing)功能。企業可選擇「auto」模式,讓系統自動為每項任務分配兼具品質與成本效益的模型。根據 Snowflake 內部測試,此舉能避免簡單問題佔用高階模型,最高可節省 3 倍的 Token 成本。 動態路由主要透過兩種機制運作:一是「顧問模式(advisor pattern)」,由小型模型優先嘗試執行任務,若無法完成再呼叫大型模型作為工具接手;二是獨立分類器,根據歷史查詢紀錄將簡單問題自動導向基礎模型。用戶仍可選擇停用自動路由,或將範圍限制在特定模型清單內。Snowflake 不對路由決策收取額外費用,僅依實際使用的 Token 計價。 在資料治理方面,路由機制與 Snowflake 現有的角色存取控制綁定,權限控管依序涵蓋資料、模型至 AI 代理。所有推論皆在 Snowflake 的安全邊界內執行,並支援在客戶所屬區域運行以符合資料落地要求,這對運行 DeepSeek-V4-Flash 與 GLM-5.3 等中國開發的開源模型尤為關鍵。 此外,Snowflake 近期收購 Natoma 取得超過 100 個具備權限控管的 MCP 連接器,並透過 Horizon Context 與 Cortex Sense 工具預先提供上下文,進一步降低模型自行編寫 SQL 或探索資料的算力成本。
讀原始報導