A OpenAI anunciou que o cache de prompts (prompt caching) da API ganhou um nível de 12 horas. Um agente pode reutilizar ao longo de um dia inteiro as mesmas instruções de sistema, definições de ferramentas e contexto; mesmo que duas requisições estejam separadas por várias horas, a entrada continua sendo cobrada pela tarifa baixa de cache. Segundo reportagens públicas, este é o 16.º dia da série de 28 dias de atualizações da OpenAI.
Também foi divulgada uma mudança voltada aos produtos da própria empresa: Tibo, responsável pelo OpenAI Codex, afirmou numa rede social que os usuários logados no Codex e no Work contam com cache permanente. Voltar a uma conversa antiga ou pausar por algumas horas no meio e continuar depois não gera nenhum custo adicional, e o acerto no cache é garantido. Essa parte não consta da documentação para desenvolvedores da OpenAI, e a forma concreta de implementação não pôde ser verificada até o momento.
As regras na documentação
De acordo com a documentação para desenvolvedores da OpenAI, o nível de 12 horas só está disponível na Responses API, vale para o GPT-5.6 e modelos posteriores e é configurado por meio de prompt_cache_options.ttl, cujos valores possíveis são o padrão de 30 minutos e 12 horas.
As tarifas estão descritas com clareza:
- Nível padrão de 30 minutos: a gravação no cache é cobrada a 1,25 vez o preço normal de entrada;
- Nível de 12 horas: a gravação é cobrada a 2,5 vezes;
- Leitura após acerto no cache: na maioria dos modelos, 0,1 vez o preço normal de entrada; no GPT-6.1 Sol, apenas 0,05 vez.
A documentação faz questão de explicar que as 12 horas são o “tempo mínimo de permanência”: não se fixa prazo de exclusão, e a política de retenção máxima de dados da OpenAI não muda. Os modelos mais antigos continuam usando o parâmetro anterior prompt_cache_retention: o nível em memória costuma expirar após 5 a 10 minutos de inatividade e dura no máximo uma hora; o nível de 24 horas guarda por até um dia.
Uma conta de padeiro
Vejamos um cenário comum: um agente envia em cada requisição um prefixo fixo de 100 mil tokens e, ao longo de 12 horas de um dia, é acordado a cada 2 horas, num total de 6 vezes. Abaixo, “100 mil tokens cobrados uma vez ao preço normal de entrada” vale 1 unidade.
| Opção | Cálculo | Total |
|---|---|---|
| Nível padrão de 30 minutos | Sempre expirado, 6 gravações × 1,25 | 7,5 unidades |
| Nível de 12 horas | 1 gravação × 2,5 + 5 leituras × 0,1 | 3,0 unidades |
O gasto com esse prefixo cai cerca de seis décimos. Por outro lado, se as requisições já são tão frequentes que uma nova chega com certeza em menos de 30 minutos, o nível padrão acerta sempre e o 1,25 vez a mais de gravação do nível de 12 horas é dinheiro jogado fora. Em termos aproximados, basta que apareçam duas ou mais pausas de mais de meia hora dentro de 12 horas para o novo nível se pagar.
Comparação com a abordagem da Anthropic
A Claude API da Anthropic oferece dois níveis de cache, de 5 minutos e de 1 hora, e a gravação no nível de 1 hora custa 2 vezes a entrada básica. Desta vez a OpenAI estica a permanência para 12 horas e fixa o multiplicador de gravação em 2,5 vezes, o que reduz de forma clara o custo de retenção por unidade de tempo. O público-alvo também é evidente: tarefas agendadas, agentes de programação de longa duração e assistentes que ficam abertos durante o dia e só são chamados a cada poucas horas.
O “cache permanente” do Codex e do Work segue outra lógica. Ele não está aberto a clientes da API; a OpenAI arca com o custo de armazenamento e, em troca, os assinantes deixam de ser atrasados por partidas a frio em conversas longas. Quando os clientes da API poderão ter níveis mais longos, a OpenAI não deu cronograma.
Fontes: documentação para desenvolvedores da OpenAI (guia de cache de prompts), conta oficial OpenAI Developers, CocoLoop, página de preços da Anthropic; os multiplicadores seguem o critério listado na documentação da OpenAI, e a comparação de custos é uma estimativa da redação.