Google GKE 發布 Pod 快照測試數據：啟動延遲降低 89%，70B 模型載入僅需 37 秒

Google 發布 GKE Pod 快照基準測試結果，顯示容器啟動延遲最高可降低 89%，700 億（70B）參數模型載入時間縮短至 37 秒，80 億（8B）參數模型則降至 15 秒。該功能已於 1.35.3-gke.1234000 及更高版本的叢集中正式發布，依賴 GKE Sandbox 中的 gVisor 執行環境，將包含 CPU 與 GPU 記憶體、執行緒、暫存器、容器根檔案系統與 EmptyDir 的完整狀態儲存至 Cloud Storage，在擴展新副本時直接跳過模型初始化。 根據 Google 公布的客戶案例，Codeway 的 Retake 平台搭配快照後，將 H100 執行個體的啟動時間從原本自訂快取層的 1 分鐘進一步壓縮至 8 秒。但在架構相容性上有嚴格限制：GKE 透過規格雜湊值進行檢查，目標節點必須具備相同的機器系列、CPU 架構、gVisor 核心版本與 GPU 驅動程式版本，否則將自動回退為一般啟動流程；僅限 rootfs 的快照可跨系列遷移（如 E2），但無法保留記憶體狀態。 在硬體支援方面，E2 機器不支援完整 Pod 快照，多 GPU Pod 目前僅限 L4 GPU，且不支援 MIG（Multi-Instance GPU）切分。應用程式復原後會中斷所有既有外部連線，加密金鑰與憑證需由程式重新建立，環境變數則須改由 /proc/gvisor/spec_environ 路徑讀取。該快照機制同時被整合進 GKE 代理沙箱（Agent Sandbox），官方數據顯示其預熱池每秒可分配達 300 個沙箱，其中 90% 延遲在 200 毫秒以內。