開發生態
OpenAI API 推出 12 小時 Prompt Caching,常駐型代理跨數小時請求仍享快取折扣
X @OpenAIDevs單一來源
核實資料不足
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
本次未取得足夠原文證據
OpenAI 宣布其 API 正式開放選擇 12 小時的 Prompt Caching(提示詞快取)時間。開發者可將共用的系統指示、工具(tools)與上下文資料保留在快取中長達半天。這項調整主要針對如 dots 等需要全天重複利用上下文的常駐型代理(persistent agents);即使前後兩次 API 請求之間間隔數小時,依舊能命中快取,並享有較便宜的快取輸入(cached-input)費率計費。
讀原始報導