開發生態
AWS 更新 Bedrock AgentCore Runtime,導入快照機制將 AI 代理冷啟動從最高 30 秒降至 2 秒
iThome單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

AWS 更新 Amazon Bedrock AgentCore Runtime,透過重新設計啟動機制與記憶體管理,大幅縮短 AI 代理的冷啟動時間。
據 AWS 測試,在不呼叫 AI 模型及外部工具的簡易代理情境下(每種容量執行 5,000 次),使用 200MB 至 2GB 容器映像檔時,75% 的冷啟動可在約 2 秒內完成。相較之下,舊版 Runtime 在 200MB 時需約 5.4 秒,2GB 映像檔時更接近 30 秒。此測試數據包含跨區域網路往返時間,但不含模型推論或工具呼叫時間。
效能提升主要來自快照機制的導入。新版 Runtime 會在建立環境時先啟動容器並完成初始化,再保存排除不必要快取與暫存資料的執行狀態快照;後續新執行個體直接從快照恢復,避免恢復時間隨映像檔增大而拉長。
此外,記憶體管理亦從舊版的「持續占用至工作階段結束」改為動態配置,從小用量開始並隨負載增加,資料釋放後即回收資源。AWS 預告未來將加入工作階段暫停、恢復及權限控制功能,並擴充記憶體與處理器資源,以支援需長時間執行的 AI 代理任務。
讀原始報導