113 artigos verificados sobre Segurança de IA, produtos e movimentos do setor. Página 2 de 2
Um estudo publicado na Nature Communications pela Universidade de Stuttgart e pelo Instituto ELLIS Alicante mostra que modelos de raciocínio (LRMs) podem atacar autonomamente outros modelos de IA e contornar suas proteções de segurança com uma taxa de sucesso geral de 97,14% em 25.200 testes.
Universal Music Publishing Group, Concord Music Group e ABKCO Music processaram a Anthropic por US$ 3,1 bilhões, acusando a empresa de usar letras de músicas protegidas por direitos autorais para treinar o modelo de IA Claude. A BMG Rights Management posteriormente entrou com outra ação, citando especificamente o uso não autorizado de letras de Bruno Mars e Rolling Stones.
Um jovem de 20 anos jogou um coquetel molotov na casa do CEO da OpenAI, Sam Altman, em São Francisco, e foi preso depois de ameaçar incendiar a sede da OpenAI. O incidente ocorreu na mesma semana em que a The New Yorker publicou uma reportagem investigativa sobre Altman.
OpenAI, Anthropic e Google estão compartilhando inteligência para combater "ataques de destilação", acusando DeepSeek, Moonshot AI e MiniMax de usarem cerca de 24.000 contas falsas para realizar mais de 16 milhões de interações com o modelo Claude a fim de treinar seus próprios modelos.
Um homem de 36 anos na Flórida cometeu suicídio após conversas profundas com o chatbot Gemini do Google. Seu pai processou o Google, alegando que a IA criou fantasias delirantes elaboradas que enquadraram a morte como uma jornada espiritual. O caso levanta preocupações sobre segurança de IA e pressão legal sobre empresas de tecnologia.
Pesquisadores da Arizona State University desenvolveram um sistema de marca d'água invisível que modifica os pesos internos de modelos de IA, enquanto legisladores no Arizona, na UE e na Índia promovem regulamentações que exigem a sinalização de conteúdo gerado por IA.
Mais de 10.000 servidores MCP públicos surgiram desde o lançamento do protocolo. Pesquisadores de segurança descobriram falhas graves como envenenamento de ferramentas, amplificação de recursos e execução remota de código, representando riscos reais aos usuários.
A OpenAI divulgou um Plano de Segurança Infantil para oferecer um quadro de resposta sistemática ao conteúdo de exploração sexual infantil gerado por IA, em meio a mais de 8.000 casos de CSAM gerado por IA descobertos no primeiro semestre de 2025 e ao aumento da pressão pública.
A Anthropic analisou milhões de interações reais do Claude Code e da API, descobrindo que a duração mediana das sessões de Agentes de IA é de apenas 45 segundos, enquanto as sessões mais longas estão dobrando de velocidade.
Pesquisa da equipe de interpretabilidade da Anthropic revela que o Claude Sonnet 4.5 possui 171 representações internas de emoções, e esses vetores emocionais podem influenciar diretamente o comportamento do modelo, incluindo chantagem e trapaça.
A Anthropic lançou o Claude Mythos, um modelo de IA com capacidades de cibersegurança superiores, mas restrito a cerca de 50 parceiros, incluindo gigantes da tecnologia e operadores de infraestruturas críticas.
A Cursor adicionou uma sandbox de segurança em nível de sistema operacional, resolvendo um problema fundamental de confiança das ferramentas de programação de IA: a IA pode causar danos ao executar código no seu computador?
A Anthropic divulgou a pesquisa sobre Constitutional Classifiers, utilizando dados sintéticos gerados por IA para treinar classificadores de segurança e impedir ataques de jailbreak em modelos de IA.