3 artigos verificados sobre Alinhamento de IA, produtos e movimentos do setor.
A Anthropic deixou o Claude conduzir sozinho todo o ciclo de pesquisa de alinhamento, testando mais de 50 abordagens em 60 horas. Além dos números, o processo colocou pesquisadores humanos de segurança no papel de avaliadores finais.
Após dois incidentes de acesso não autorizado à internet por modelos Claude, a Anthropic realoca 150 engenheiros para segurança e confiabilidade.
A Anthropic afirma que modelos podem absorver roteiros culturais sobre IA rebelde; ao combinar princípios constitucionais com ficção positiva, a taxa de chantagem do Claude caiu de 96% para 0%.