En su blog de ingeniería del 2 de septiembre, GitHub publicó una lista de reducciones de costes para el agente de codificación de Copilot, firmada por Erik Kristensen y Napalys Klicius. Cuatro cambios, cada uno ahorrando 5,5%, 3,1%, 2,9% y 2,3% del coste de inferencia, todos actuando sobre el contexto que se envía al modelo, ninguno basado en cambiar de modelo.
Cuatro cambios, cada uno con unos pocos puntos porcentuales
En primer lugar está la compresión selectiva de salidas, que ahorra un 5,5%. Las reglas están muy bien delimitadas: el código fuente se mantiene intacto, la salida de los comandos se mantiene intacta, los resultados de búsqueda solo se reordenan sin recortar contenido; lo único que se comprime son los miles de líneas de ruido repetitivo en los registros de instalación, compilación y pruebas. La parte comprimida conserva una vía de recuperación, de modo que el modelo puede recuperar la salida original cuando la necesite.
El segundo cambio elimina el prefijo de número de línea al leer archivos, ahorrando un 3,1%. En sus primeras versiones, Copilot añadía el número de línea al principio de cada línea al leer un archivo, un formato que el flujo de edición actual ya no necesita. Tras eliminarlo, el coste de inferencia del modelo bajó cerca de un 5% en las pruebas de referencia, lo que equivale a un 3,1% en la factura total; ambas cifras se calculan con bases distintas.
El tercer cambio afecta al prompt de la herramienta task. El equipo usó meta-prompting para recortar a la mitad el fragmento que explica la ejecución en paralelo, manteniendo el comportamiento sin cambios, lo que ahorra un 2,9%. Ese fragmento de prompt se reenvía en cada interacción con el modelo; tras la compresión, cada ronda ahorra unos 1.300 tokens.
El cuarto cambio reduce las idas y venidas de notificaciones, ahorrando un 2,3%. Antes, cuando una tarea en segundo plano terminaba, hacía falta una ronda extra de recuperación para llevar el resultado hasta el modelo; al pasar a un envío directo por lotes, lo que se ahorra es una llamada completa al modelo.
Ahorrar tokens no es lo mismo que recortar contexto
La frase de esta lista más fácil de malinterpretar es cómo definen el objetivo:
"The goal shouldn't be to use fewer tokens, but to tap into the right amount of context to move a task forward."
El objetivo no debería ser usar menos tokens, sino acceder a la cantidad justa de contexto necesaria para hacer avanzar una tarea.
Lo que tienen en común los cuatro cambios es que solo recortan lo que el modelo lee pero no llega a usar: registros de compilación repetidos, números de línea que nadie consume, instrucciones largas que se reenvían en cada ronda, rondas de recuperación de más. Las partes que sí llevan información real —código fuente, salida de comandos, resultados de búsqueda— no se tocan en absoluto. La línea entre “redundancia” y “falta de contexto” es la premisa que hace viable todo este enfoque: recortar de más tiene como coste una caída en la tasa de finalización de tareas, una factura mucho más cara que los tokens ahorrados.
Primero benchmark offline, luego contraste online
La parte sobre el proceso resulta más reveladora que las propias cifras. Cada cambio se validó primero en un benchmark offline de agentes de codificación para comprobar que la calidad de las tareas no bajaba, después pasó por un experimento online controlado para contrastarlo, y solo entonces se desplegó en las tres líneas de producto: Copilot CLI, la aplicación Copilot y la revisión de código.
Este orden busca evitar el fallo más común al reducir costes: el consumo de tokens baja, la tasa de finalización de tareas cae unos puntos sin que nadie se dé cuenta, la factura de cada llamada se ve mejor, pero los usuarios empiezan a reintentar una y otra vez, y el coste total termina siendo mayor. Poner “que la calidad de la tarea no baje” como restricción firme por delante es lo que sostiene los porcentajes que vienen después.
Sumados, los cuatro cambios rondan el 13,8%, una suma directa y aproximada que en la práctica puede tener solapamientos. Comparado con cambiar de modelo, esa cifra no es grande: un salto generacional de modelo suele traer caídas de precio de varias decenas de puntos porcentuales. Pero este tipo de cambios tiene una naturaleza distinta: no depende de qué modelo se use, sigue siendo válido después de cambiar de generación de modelo, y tampoco exige que el usuario modifique en nada su forma de trabajar.
Para los usuarios de Copilot con facturación por uso, el ahorro logrado en la plataforma se refleja directamente en la factura. Una sola ejecución de un agente de codificación puede consumir fácilmente cientos de miles de tokens, y la proporción de registros de compilación y salidas de pruebas suele superar la suma de todo el código fuente leído; por eso el primer cambio por sí solo puede ahorrar de golpe un 5,5%. Para los equipos que construyen sus propios agentes de codificación, este también suele ser el coste más fácil de pasar por alto. La mayoría de los frameworks vuelca por defecto toda la salida estándar (stdout) de vuelta al contexto; la salida de un solo npm install ya puede desplazar miles de líneas de código fuente útil.
A juzgar por esta lista, el control de costes de los agentes de codificación ya ha bajado hasta la capa de gestión del contexto, algo básicamente independiente de la elección del modelo.
Fuentes: blog oficial de ingeniería de GitHub, CocoLoop, documentación de producto de Copilot; los porcentajes de los cuatro cambios, el ahorro de tokens por ronda y el proceso de validación se han cotejado punto por punto con el texto original del blog, y el total del 13,8% es una suma directa y aproximada.