AI Agent 成本突然升高？先查提示快取的三個環節

一個企業 AI Agent 可能每次請求都附上相同的作業規則、工具定義與前段對話。當費用或等待時間突然增加，先檢查這些共用內容有沒有被重複處理，比直接縮短所有指令更容易找到原因。OpenAI 在 9 月 22 日發布 GPT-6 提示快取更新，提供監測命中率、診斷失效與安排可重用前綴的工具。[1]

01 / 快取究竟重用了什麼？

官方文件說明，提示快取重用的是請求開頭完全相同、且符合條件的前綴；新加入的內容仍要處理。[2] 因此，兩次任務都叫『摘要文件』，不代表會命中；前段若插入時間戳、變動的文件或重排工具定義，也可能破壞預期的重用。這是排查請求結構的起點，不是要求團隊為了快取犧牲必要的脈絡。

02 / 先查三個環節

OpenAI 的診斷文件列出 model_changed、tools_changed、text_format_changed、input_changed 等失效原因，並說明診斷只回報第一個可分類原因；修正後仍要再次比較。[3] 先確認變動是否出自部署、版本切換或工作流設計，再決定是否調整。

03 / 用同一類任務做一次小型排查

1. 01選固定任務與比較期間
2. 02保存請求設定與回應 ID
3. 03檢查診斷及 cached tokens
4. 04只改一項可控因素
5. 05比較費用、等待時間與品質

編輯建議是先挑一條高頻、輸入結構穩定的工作流，記錄基準，再逐一檢查變動來源。官方文件指出，可用近期完成的回應 ID 請求比較，並從回應的 usage.input_tokens_details.cached_tokens 查看實際快取重用；比較 ID 不會替下一次請求載入舊對話。[3] 如需處理敏感資訊，應依團隊既有資料處理規則保存必要的設定與統計，不必把原始內容寫進排查報表。

04 / 什麼時候值得調整？

如果某次部署後快取命中下降，且相同任務的成本或回應時間同步惡化，就值得檢查前綴和工具設定。若工作內容本來就需要更換模型、更新安全規則或壓縮脈絡，命中率下降可能是合理代價。團隊應以任務品質、總成本與使用者等待時間共同判斷，而不是追求單一命中率。