開發生態
Google Cloud API Gateway 公測串流處理:支援 SSE/gRPC 與多模型路由,連線最長維持一小時
AI 前線單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
Google 宣布公開預覽 API Gateway 串流處理功能,將傳統請求-回應架構擴展至即時通訊,主要鎖定 AI 逐步生成模型回應、多步驟 Agent 工作流程、工具呼叫協議以及遠端 MCP 伺服器連線等互動場景。該功能支援伺服器發送事件(SSE)、分塊傳輸編碼(Chunked Transfer Encoding)、HTTP 回應串流、WebSockets 與 gRPC 協議。串流連線最長可維持開啟一小時,逾時後客戶端必須重新建立連線。
在公測期間,開發者建立網關時須加入「--enable-streaming」指令旗標啟用。此更新無須更改既有 API 規範或加入特殊注解,串流端點便可直接在網關後方運作,同時保留現有的 API 金鑰驗證、JWT 驗證、後端服務帳戶認證、Cloud Logging 與 Cloud Monitoring 監控整合,以及路徑範本與請求路由等資安政策。此外,網關主機名稱改採確定性格式(GATEWAY_ID-PROJECT_NUMBER.REGION.gateway.dev),讓開發者能在資源建立前預先引用與配置。
新版本亦整合模型路由功能,提供相容 OpenAI 規範的單一端點,可依請求酬載中的模型欄位,將請求動態分發至 Gemini、Claude 或 OpenAI gpt-oss 模型。
不過社群工程師指出該預覽版本存在兩項限制:第一,既有網關無法直接就地升級切換,必須重新建立;第二,網關延遲指標衡量的是整體資料流持續時間,而非首位元組到達時間(TTFB),因此延遲監控圖表可能無法直接對應真實的使用者體驗。
讀原始報導