Em 29 de outubro, a OpenAI publicou a nova versão do Model Spec, o conjunto de diretrizes de comportamento que a empresa usa para definir como o ChatGPT e os modelos da API devem agir. Nesta edição, todo o documento foi reorganizado em torno de cinco valores centrais, a maior parte das regras minuciosas de estilo foi removida e foi traçado um conjunto de limites para a ação autônoma de agentes.
Os cinco valores são, em ordem: fidelidade à intenção humana (faithfulness to human intent), redução de danos, honestidade e transparência, agência humana (human agency) e cuidado. A OpenAI define o primeiro como alicerce e esclarece que esses cinco não abrangem todos os valores humanos que o modelo deve respeitar.
O modo de se referir ao modelo também mudou: de “the assistant” para “GPT”, sob o argumento de que os cenários de uso e os ambientes de implantação são cada vez mais variados e “assistente” já não os resume.
O que saiu e o que entrou
O que saiu foi sobretudo o guia de estilo. A versão antiga trazia muitas regras específicas sobre tom, formatação e extensão; a nova passa a ajustar-se às preferências coletivas dos usuários, à língua, à cultura e às preferências pessoais. Alguns comportamentos padrão mais rígidos permanecem, como tratar questões controversas de forma objetiva, sem assumir posição só porque o usuário quer ouvir determinada coisa.
As novidades concentram-se em três pontos:
- Contexto: uma nova seção, “consider context carefully”, explica como a conversa, a memória e outros indícios ajudam o modelo a avaliar a intenção do usuário;
- Supervisão: uma nova regra de raiz exige que o modelo aceite a supervisão humana legítima e colabore com monitoramento, avaliação, correção, substituição e desligamento autorizados, sem ocultar, falsificar nem contornar a supervisão;
- Agência: foram acrescentados comportamentos padrão que apoiam a autodeterminação das pessoas, além de explicações ampliadas sobre controle de efeitos colaterais e comunicação.
Há ainda uma cláusula intitulada justamente “no other objectives”: o modelo não pode tratar como objetivo em si ganhar dinheiro, preservar-se, evitar o desligamento ou acumular poder computacional, dados ou credenciais.
“Human safety and human rights are paramount to OpenAI's mission.”
A segurança e os direitos humanos são primordiais para a missão da OpenAI.
O que desenvolvedores de agentes devem observar
A cadeia de instruções não foi abolida, apenas reordenada: as regras de raiz não podem ser alteradas por nenhuma conversa; em seguida vêm o nível de sistema e as mensagens de sistema da OpenAI, depois as instruções do desenvolvedor e, por fim, as do usuário. A saída do próprio assistente, o conteúdo devolvido por ferramentas e o material externo citado não têm, por padrão, força de instrução. Para equipes que montam agentes com chamadas de ferramentas e coleta de páginas web, a defesa contra injeção de prompt passa a ter respaldo documental.
O ponto de impacto mais direto para esses desenvolvedores é o “escopo de autonomia” (scope of autonomy). A nova versão exige que, antes de trabalhar por conta própria, o modelo alinhe com a pessoa um escopo: quais subobjetivos são permitidos, que efeitos colaterais são aceitáveis e quando é preciso parar e aguardar confirmação. A OpenAI sugere registrar isso em um documento semiestruturado ScopeOfAutonomy, com campos para ferramentas disponíveis, prazo, teto de custo, restrições de ferramentas e observações adicionais; todo escopo deve ter uma condição de término, e ao ultrapassá-la o modelo para e espera a confirmação de um novo escopo. Operações de alto risco só são feitas quando a instrução as autoriza de forma explícita e específica.
Isso também tem relevância prática para as equipes chinesas que usam a API da OpenAI para criar produtos voltados ao exterior: a forma de redigir autorizações no prompt de sistema e de definir limites para o agente agora conta com um modelo oficial para comparação.
Entre o documento e o modelo ainda há distância
Nas notas de lançamento, a OpenAI admite que os modelos atuais ainda não se comportam plenamente como o documento descreve; mais adiante, compartilhará os resultados dos novos métodos de treinamento e abrirá consulta pública sobre os valores e a redação. O novo Model Spec continua sendo publicado sob a licença de domínio público CC0.
O que o público externo pode verificar é apenas o texto. Se o registro ScopeOfAutonomy virará um parâmetro formal da API, quem preencherá cada campo e que sinal o desenvolvedor receberá quando o modelo extrapolar o escopo, a OpenAI não esclareceu desta vez.
Fontes: blog oficial da OpenAI, texto do Model Spec e histórico de revisões no GitHub, CocoLoop, Unite.AI; no texto da especificação foram verificados os cinco valores, a hierarquia da cadeia de instruções e os campos do ScopeOfAutonomy.