應對 AI 代理失控風險，開發者呼籲 API 應預設「硬性預算上限」，AWS 與 Google Cloud 近期已跟進

知名開發者 Simon Willison 指出，隨著程式碼代理（Coding agents）與個人代理大幅降低了部署程式碼的門檻，失控的服務極易在無人看管時產生高達數千至上萬美元的意外帳單。他呼籲所有按用量計費的 API 與雲端服務應將「硬性預算上限」（Hard budget caps）設為預設值，在達到設定金額時直接切斷服務並回傳錯誤，而非僅發送警告信件；若用戶需無上限服務，則應改為明確的手動勾選同意。 針對此需求，兩大雲端巨頭近期已開始引入相關機制。AWS 於 9 月 16 日宣布推出支出上限功能，當專案用量達標時將自動暫停該月份服務，目前正向少數用戶限量推出；Google Cloud 亦於 7 月推出了「Spend Caps」功能，允許針對專案內的特定服務設定每月財務上限。Willison 進一步建議，未來的 AI 代理應主動推薦具備硬性預算上限的服務供應商，以避免缺乏經驗的開發者承擔超支風險。