開發生態
OpenAI 升級 GPT-6 提示快取功能：新增明確斷點與診斷工具以降低延遲與成本
OpenAI News一手來源
尚未逐項核實
來源為發布方或研究資料；不代表所有主張已獲獨立核實。
OpenAI 宣布針對 GPT-6 推出改良版的提示快取（Prompt Caching）功能，旨在進一步降低延遲與使用成本。此次升級的核心功能包含：提供更高的快取命中率、加入全新的診斷工具、支援明確斷點（explicit breakpoints），以及新增多項快取控制選項，讓開發者能更精確地管理模型的快取行為。
讀原始報導背景
提示快取（Prompt caching）能保留提示詞開頭未變更 token 的狀態，讓模型處理新輸入時能重複使用這些前綴。中斷點（Breakpoint）則是一種在執行期間中斷並取得資訊的機制，通常用於檢查環境狀態是否符合預期。