OpenAI ha anunciado que la caché de prompts (prompt caching) de su API incorpora un nivel de 12 horas. Un agente puede reutilizar durante un día entero las mismas instrucciones de sistema, definiciones de herramientas y contexto; aunque entre dos solicitudes pasen varias horas, la entrada se sigue facturando a la tarifa baja de caché. Según informaciones públicas, este es el día 16 de la campaña de 28 días de actualizaciones de OpenAI.
También se dio a conocer un cambio dirigido a sus propios productos: Tibo, responsable de OpenAI Codex, afirmó en una red social que los usuarios con sesión iniciada en Codex y Work disfrutan de caché permanente. Volver a una conversación antigua o parar unas horas a mitad y seguir después no supone ningún coste adicional, y se garantiza el acierto en caché. Esta parte no figura en la documentación para desarrolladores de OpenAI y, por ahora, no es posible verificar cómo está implementada.
Las reglas según la documentación
Según la documentación para desarrolladores de OpenAI, el nivel de 12 horas solo está disponible en la Responses API, se aplica a GPT-5.6 y modelos posteriores y se configura mediante prompt_cache_options.ttl, cuyos valores posibles son el predeterminado de 30 minutos y 12 horas.
Las tarifas están descritas con claridad:
- Nivel predeterminado de 30 minutos: la escritura en caché se factura a 1,25 veces el precio normal de entrada;
- Nivel de 12 horas: la escritura se factura a 2,5 veces;
- Lectura tras un acierto en caché: en la mayoría de los modelos, 0,1 veces el precio normal de entrada; en GPT-6.1 Sol, solo 0,05 veces.
La documentación aclara expresamente que las 12 horas son el “tiempo mínimo de permanencia”: no fija un plazo de eliminación ni modifica la política de retención máxima de datos de OpenAI. Los modelos anteriores siguen usando el parámetro antiguo prompt_cache_retention: el nivel en memoria suele caducar tras 5 a 10 minutos de inactividad y dura como máximo una hora; el nivel de 24 horas conserva hasta un día.
Una cuenta a grandes rasgos
Tomemos un escenario habitual: un agente incluye en cada solicitud un prefijo fijo de 100.000 tokens y, a lo largo de 12 horas de un día, se activa cada 2 horas, en total 6 veces. A continuación, “100.000 tokens facturados una vez al precio normal de entrada” equivale a 1 unidad.
| Opción | Cálculo | Total |
|---|---|---|
| Nivel predeterminado de 30 minutos | Siempre caducado, 6 escrituras × 1,25 | 7,5 unidades |
| Nivel de 12 horas | 1 escritura × 2,5 + 5 lecturas × 0,1 | 3,0 unidades |
El gasto de ese prefijo baja alrededor de un sesenta por ciento. En sentido contrario, si las solicitudes ya son tan frecuentes que dentro de 30 minutos seguro llega otra, el nivel predeterminado acierta siempre y el 1,25 veces extra de escritura del nivel de 12 horas se paga en balde. A grandes rasgos, basta con que en 12 horas aparezcan dos o más pausas de más de media hora para que el nuevo nivel salga a cuenta.
Comparación con el enfoque de Anthropic
La Claude API de Anthropic ofrece dos niveles de caché, de 5 minutos y de 1 hora, y la escritura del nivel de 1 hora cuesta 2 veces la entrada base. Esta vez OpenAI alarga la permanencia a 12 horas y fija el multiplicador de escritura en 2,5 veces, de modo que el coste de retención por unidad de tiempo es claramente menor. El cliente objetivo también está claro: tareas programadas, agentes de programación de larga duración y asistentes que permanecen abiertos de día y solo se llaman cada pocas horas.
La “caché permanente” de Codex y Work responde a otra lógica. No está abierta a los clientes de la API; OpenAI asume el coste de almacenamiento y, a cambio, los suscriptores dejan de sufrir arranques en frío en conversaciones largas. OpenAI no ha dado calendario sobre cuándo podrán los clientes de la API acceder a niveles más largos.
Fuentes: documentación para desarrolladores de OpenAI (guía de caché de prompts), cuenta oficial OpenAI Developers, CocoLoop, página de precios de Anthropic; los multiplicadores siguen el criterio que figura en la documentación de OpenAI y la comparación de costes es una estimación de la redacción.