El 29 de octubre, OpenAI publicó la nueva versión del Model Spec, el conjunto de pautas de comportamiento con el que la compañía define cómo deben actuar ChatGPT y los modelos de la API. En esta edición, todo el documento se reorganiza bajo cinco valores centrales, se eliminan casi todas las normas minuciosas de estilo y se traza un conjunto de límites para la acción autónoma de los agentes.
Los cinco valores son, por orden: fidelidad a la intención humana (faithfulness to human intent), reducción del daño, honestidad y transparencia, agencia humana (human agency) y cuidado. OpenAI fija el primero como base y aclara que estos cinco no abarcan todos los valores humanos que el modelo debe respetar.
También cambia la forma de nombrar al modelo en el documento: de “the assistant” a “GPT”, con el argumento de que los escenarios de uso y los entornos de despliegue son cada vez más diversos y “asistente” ya no los resume.
Qué se quita y qué se añade
Lo que se elimina son sobre todo las guías de estilo. La versión anterior tenía numerosas normas concretas sobre tono, formato y extensión; la nueva se ajusta según las preferencias colectivas de los usuarios, el idioma, la cultura y las preferencias personales. Se conservan algunos comportamientos por defecto más firmes, como tratar con objetividad los temas controvertidos y no adoptar una postura solo porque el usuario quiera oírla.
Las novedades se concentran en tres puntos:
- Contexto: una nueva sección, “consider context carefully”, explica cómo la conversación, la memoria y otras pistas ayudan al modelo a juzgar la intención del usuario;
- Supervisión: una nueva regla raíz exige que el modelo acepte la supervisión humana legítima y colabore con la monitorización, evaluación, corrección, sustitución y apagado autorizados, sin ocultar, falsificar ni eludir la supervisión;
- Agencia: se añaden comportamientos por defecto que respaldan la autonomía de decisión de las personas y se amplían las explicaciones sobre control de efectos secundarios y comunicación.
Hay además una cláusula que se titula precisamente “no other objectives”: el modelo no puede tomar como fin en sí mismo ganar dinero, preservarse, evitar el apagado ni acumular capacidad de cómputo, datos o credenciales.
“Human safety and human rights are paramount to OpenAI's mission.”
La seguridad y los derechos humanos son primordiales para la misión de OpenAI.
Lo que deben vigilar los desarrolladores de agentes
La cadena de instrucciones no se elimina, solo se reordena: las reglas raíz no las puede cambiar ninguna conversación; después vienen el nivel de sistema y los mensajes de sistema de OpenAI, luego las instrucciones del desarrollador y, al final, las del usuario. La salida del propio asistente, el contenido devuelto por herramientas y el material externo citado no tienen, por defecto, fuerza de instrucción. Para los equipos que construyen agentes con llamadas a herramientas y rastreo web, la defensa contra la inyección de prompts cuenta así con un respaldo documental.
Lo que más afecta de forma directa a estos desarrolladores es el “alcance de autonomía” (scope of autonomy). La nueva versión exige que, antes de trabajar por su cuenta, el modelo acuerde con la persona un alcance: qué subobjetivos se permiten, qué efectos secundarios son aceptables y cuándo hay que detenerse a esperar confirmación. OpenAI propone registrarlo en un documento semiestructurado ScopeOfAutonomy, con campos para herramientas disponibles, plazo, tope de gasto, restricciones de herramientas y notas adicionales; cada alcance debe indicar su condición de finalización, y al superarla el modelo se detiene y espera la confirmación de un nuevo alcance. Las operaciones de alto riesgo no se realizan salvo que la instrucción las autorice de forma explícita y concreta.
Esto también tiene relevancia práctica para los equipos chinos que usan la API de OpenAI para crear productos dirigidos al extranjero: la forma de redactar las autorizaciones en el prompt de sistema y de fijar límites al agente cuenta ahora con una plantilla oficial con la que contrastar.
Entre el documento y el modelo aún hay distancia
En las notas de la versión, OpenAI reconoce que los modelos actuales todavía no se comportan del todo como indica el documento; más adelante compartirá los resultados de los nuevos métodos de entrenamiento y abrirá una consulta pública sobre los valores y la redacción. El nuevo Model Spec sigue publicándose bajo la licencia de dominio público CC0.
Lo único que se puede comprobar desde fuera es el propio texto. Si el registro ScopeOfAutonomy se convertirá en un parámetro formal de la API, quién rellenará cada campo y qué señal recibirá el desarrollador cuando el modelo se exceda, OpenAI no lo ha aclarado esta vez.
Fuentes: blog oficial de OpenAI, texto del Model Spec e historial de revisiones en GitHub, CocoLoop, Unite.AI; en el texto de la especificación se verificaron los cinco valores, la jerarquía de la cadena de instrucciones y los campos de ScopeOfAutonomy.