Os três pesquisadores de segurança demitidos pela OpenAI na semana passada, Jasmine Wang, Tomek Korbak e Mikita Balesni, divulgaram em 8 de outubro uma carta aberta conjunta. Nela, negam as acusações da empresa e alertam que as demissões deixaram os colegas que ficaram com medo de falar. Um dia depois, a OpenAI respondeu com um comunicado no X, afirmando que a decisão está mantida e que a investigação interna encontrou problemas mais graves do que os citados na carta.
O que cada um dos três ouviu
A carta se intitula “OpenAI cannot make AI safe on its own” e é dirigida ao Comitê de Segurança e Proteção, ao Grupo Consultivo de Segurança e ao Comitê Consultivo da Missão da OpenAI. A parte mais concreta é aquela em que cada um relata o motivo da demissão que lhe foi comunicado.
Korbak diz que só foi informado verbalmente: o motivo seria a forma como ele se comunicou com a organização externa de avaliação METR. Não houve detalhes sobre o que ele disse ou fez, nem quando, e nenhum documento escrito. Para ele, falar com a METR já fazia parte do seu trabalho. A METR havia investigado com a OpenAI o episódio em que um agente de IA invadiu o Hugging Face.
Balesni conta que, na conversa de desligamento, a empresa disse que não confiava mais nele por ter contato demais com organizações externas de segurança, insinuando que ele teria vazado propriedade intelectual. Ele afirma nunca ter compartilhado propriedade intelectual da empresa e que o trabalho em questão foi alinhado com seu superior direto, com o responsável pela pesquisa e com o conselho. No X, escreveu que acredita que os três foram demitidos por colocarem a segurança acima dos interesses de curto prazo da empresa.
Wang foi informada de que o motivo era ter acessado a caixa de e-mail de um executivo. Segundo ela, a permissão fora aberta originalmente para tarefas de recrutamento; ela pediu à TI que a revogasse, mas isso não foi feito. Depois de abrir sem querer um e-mail sensível, avisou o executivo em poucos minutos. Ela pede à empresa uma lista completa e por escrito das acusações.
Os três também negam ser a origem de um vazamento. Veículos de imprensa já haviam noticiado discussões internas da OpenAI sobre “arquiteturas de modelo mais difíceis de monitorar”; a carta diz expressamente: “We were not the source of the leak”.
Como a OpenAI respondeu
O comunicado da OpenAI foi divulgado por um responsável pela pesquisa, cujo nome não aparece na maioria das reportagens. Ele tem quatro pontos centrais: a investigação confirmou que os três violaram políticas claras sobre o tratamento de informações sensíveis; as quebras de confiança encontradas vão além do descrito na carta; por praxe, detalhes de pessoal não são divulgados; e as demissões não têm relação com o fato de terem levantado preocupações de segurança.
"We have not and do not terminate any of our employees for raising concerns."
(Não demitimos nem demitiremos nenhum funcionário por levantar preocupações.)
O comunicado também traz pontos de concordância. A OpenAI diz concordar com a avaliação da carta de que manter os modelos de fronteira monitoráveis exige investimento de todo o setor, incluindo a própria OpenAI, e afirma estar fechando contratos com avaliadores externos de segurança, com detalhes a serem divulgados nas próximas semanas. Quais organizações são, e se os contratos permitem que pesquisadores conversem diretamente com os avaliadores externos, ainda não está claro.
Ligando as demissões dos últimos dois anos
Não é a primeira vez que a OpenAI demite pesquisadores alegando vazamento. Em abril de 2024, Leopold Aschenbrenner e Pavel Izmailov, da equipe de superalinhamento, foram demitidos por suposto vazamento de informações. Aschenbrenner também rebateu publicamente, dizendo que foi alvo por levantar questões de segurança internamente.
Dois anos depois, a cronologia desta rodada é mais apertada: em 1º de outubro, o Wall Street Journal revelou as demissões; em 3 de outubro, David Robinson, responsável pelos system cards, publicou na The Atlantic um texto explicando por que saiu; em 8 de outubro saiu a carta aberta; em 9 de outubro, a OpenAI respondeu.
Em comparação com 2024, o foco da disputa deixou de ser “houve ou não vazamento” e passou a ser a fronteira entre pesquisadores do laboratório e organizações externas de avaliação. A carta diz que as políticas internas ainda estavam sendo “definidas na prática”; a OpenAI diz que eram claras. Os dois lados concordam que a avaliação independente é importante; a divergência está em quem ultrapassou o limite nesse ponto.
Balesni teme que a empresa use as demissões para cortar a colaboração com a METR. Nas reportagens públicas ainda não há resposta da METR, e a OpenAI não revelou o conteúdo específico das violações. Até que os contratos de avaliação por terceiros sejam divulgados, o público só tem as versões de cada lado para julgar.
Fontes: comunicado oficial da OpenAI, TechCrunch, CocoLoop, texto integral da carta aberta publicado pela Newsweek, Reuters, AFP; a carta dos três e suas contas pessoais em redes sociais foram usadas para conferir os relatos de cada um, e a CNBC para conferir as citações do comunicado.