Google 發表 UniRoute 模型路由研究：無需重新訓練即可動態新增 LLM，同等品質下成本降 3 至 5 倍

據報導，Google 研究團隊在 arXiv 發表論文提出 UniRoute 通用模型路由方法，旨在解決傳統 AI 路由在增減可用模型時必須收集新資料並重新訓練的限制。 該方法使用 Google Gecko 嵌入技術，將訓練集中的提示詞依特徵向量角度分群（每群約 50 個），並記錄各模型在不同群組的平均錯誤率，藉此為每個 LLM 建立專屬的「模型特徵向量」。當系統引入新模型時，只需在驗證集上執行一次推論以產生特徵向量，無需重新訓練路由器本身。處理新提示詞時，系統會比對最接近的提示詞群組，並綜合考量該群組的錯誤率與推論成本來選擇最佳模型。 實測結果顯示，UniRoute 的效能幾乎與靜態訓練的 MLP 路由器相當；與僅使用單一平均錯誤率的基礎路由器相比，在維持同等回覆品質的前提下，平均可將任務路由至便宜 3 至 5 倍的模型。