OpenAI API 推出 12 小時 Prompt Caching,常駐型代理跨數小時請求仍享快取折扣
共用指令、工具定義與上下文可保留快取半天,針對 dots 等整日運行的常駐代理降低輸入成本。
X @OpenAIDevs單一來源
56 則值得知道的變化
共用指令、工具定義與上下文可保留快取半天,針對 dots 等整日運行的常駐代理降低輸入成本。
供應鏈消息指出 Rubin 主力仍採 12 層 HBM4,但 8 層產品每 Gb 價格可能反比 12 層高 10% 至 20%,記憶體成本壓力持續升高。
1.0 版已結束免費預覽,提供 30 天免費試用,期滿須訂閱 IntelliJ IDEA Ultimate;完全由 AI 代理自主使用的授權方式尚待公布。