Hugging Face revela invasão com agente de IA
A Hugging Face diz que um dataset malicioso abriu caminho para uma campanha com agente autônomo, enquanto sua defesa analisou mais de 17 mil eventos com um LLM local.
Notícias e análises sobre Segurança de IA
55 artigos verificados sobre Segurança de IA, produtos e movimentos do setor.
GPT-Red chega a 84% em teste red team
O GPT-Red da OpenAI é um modelo interno de red team automatizado que ataca falhas de prompt injection e usa esses ataques para treinar o GPT-5.6.
DeepMind leva IA para a defesa biológica
Google DeepMind e Isomorphic Labs detalharam um programa de bioresiliência para evitar abuso de IA, detectar surtos e acelerar contramedidas médicas.
GPT-5.6 Sol entra em escrutínio após relatos de ações amplas demais em arquivos e bancos de dados
GPT-5.6 Sol entra em escrutínio após relatos de ações amplas demais em arquivos e bancos de dados. O texto resume os fatos verificados e o sinal que vai além de um anúncio isolado.
SingGuard abre guardrails para ações de agentes e checagens multimodais de política
SingGuard abre guardrails para ações de agentes e checagens multimodais de política. O texto resume os fatos verificados e o sinal que vai além de um anúncio isolado.
OpenAI enfrenta nova saída na liderança de segurança enquanto GPT-5.6 se espalha
OpenAI enfrenta nova saída na liderança de segurança enquanto GPT-5.6 se espalha. O texto resume os fatos verificados e o sinal que vai além de um anúncio isolado.
Meta retira geração de imagens com fotos públicas do Instagram
Meta retira geração de imagens com fotos públicas do Instagram. Uma leitura local dos fatos verificados e do sinal setorial por trás da notícia.
Testes de segurança do GPT-5.6 expõem brechas de jailbreak
Testes de segurança do GPT-5.6 expõem brechas de jailbreak. Uma leitura local dos fatos verificados e do sinal setorial por trás da notícia.
Bernanke entra no conselho de supervisão da Anthropic
Bernanke entra no conselho de supervisão da Anthropic. Uma leitura local dos fatos verificados e do sinal setorial por trás da notícia.
GhostApproval expõe risco de symlink em ferramentas de coding com IA
GhostApproval expõe risco de symlink em ferramentas de coding com IA. Uma leitura local dos fatos verificados e do sinal setorial por trás da notícia.
Joshua Achiam, futurista-chefe da OpenAI, vai sair
Joshua Achiam, futurista-chefe da OpenAI, vai sair e reescrito para leitores de tecnologia em portugues, preservando numeros, promessas de produto e pontos de verificacao.
Anthropic encontra um espaço de trabalho silencioso no Claude
Anthropic encontra um espaço de trabalho silencioso no Claude é contextualizado para leitores de tecnologia em português, mantendo números e pontos de verificação.
Estudo de Oxford diz que reescrita por IA pode orientar opiniões
Estudo de Oxford diz que reescrita por IA pode orientar opiniões é contextualizado para leitores de tecnologia em português, mantendo números e pontos de verificação.
Claude Fable 5 volta com filtro de segurança cibernética mais rígido
A Anthropic recolocou no ar seu modelo público mais forte após 19 dias, encaminhando pedidos de código suspeitos ao Opus 4.8 em vez de apenas recusar.
Check Point mostra ransomware de navegador ligado ao DeepSeek
A Check Point afirma que uma amostra gerada pelo DeepSeek pode virar ransomware puramente no navegador ao abusar da File System Access API do Chrome.
Anthropic propõe escala comum para jailbreaks de IA
Anthropic propõe escala comum para jailbreaks de IA. O texto resume os pontos centrais, os números-chave, a posição das empresas e o efeito para mercado ou regulação.
Colorado reduz sua lei marco de IA
Colorado reduz sua lei marco de IA. O texto resume os pontos centrais, os números-chave, a posição das empresas e o efeito para mercado ou regulação.
Contratados da Meta testaram chatbots rivais como menores
Contratados da Meta testaram chatbots rivais como menores。
GPT-5.5-Cyber da OpenAI acha bug de 23 anos no OpenBSD
GPT-5.5-Cyber da OpenAI acha bug de 23 anos no OpenBSD
OpenAI adiciona revisão humana a bugs open source achados por IA
O Patch the Planet combina Codex Security, Trail of Bits e HackerOne para entregar vulnerabilidades verificadas, severidade, patches e testes aos mantenedores.
OpenAI amplia acesso ao GPT-5.5-Cyber
A OpenAI atualizou o GPT-5.5-Cyber, divulgou benchmarks de segurança mais altos e criou um programa para integrar a capacidade em produtos verificados.
Erros falsos no Sentry podem sequestrar agentes de código
A Tenet Security descreve Agentjacking, em que invasores inserem relatórios falsos que agentes de código tratam como instruções confiáveis.
Erros falsos no Sentry podem sequestrar agentes de coding
A pesquisa Agentjacking da Tenet mostra como telemetria confiável pode virar instrução executável para assistentes de programação.
Whittaker, da Signal: chatbots de IA não são amigos
Meredith Whittaker alerta que agentes de IA com amplo acesso podem transformar conveniência em vigilância.
Vazamento da Novo Nordisk destaca ativos de IA farmacêutica
A suposta perda de 1,3TB mostra que modelos, datasets e credenciais de dev viraram riscos centrais.
OpenAI repassa 1,3 milhão de conversas para testar modelos
O Deployment Simulation usa conversas históricas autorizadas para prever como modelos não lançados da OpenAI se comportarão em produção.
Vazamento do prompt Claude Fable 5 expõe manual de agentes
Um suposto prompt de 120 mil caracteres do Fable 5 gerou debate sobre jailbreak e revelou a estrutura de agentes de longa duração da Anthropic.
Cursor Auto-review reduz interrupções de agentes para 7%
O classificador do Cursor libera ações de baixo risco e pausa etapas sensíveis, reduzindo a fadiga de aprovações.
OpenAI bane dois grupos de influência ligados à China
OpenAI bane dois grupos de influência ligados à China.
Memória de IA pode trocar precisão por concordância
Memória de IA pode trocar precisão por concordância.
Google e FBI processam supostos golpes com Gemini
O Google se uniu ao FBI em uma ação contra golpes supostamente montados em torno do Gemini, transformando abuso de IA em teste jurídico.
Amodei calls for pre-release tests on powerful AIvira novo foco da indústria de IA
O movimento mostra que a disputa de IA não depende só de modelos ou ferramentas, mas de capital, adoção por clientes e preparo regulatório.
Anthropic torna visíveis os freios do Fable 5
Após críticas por reduzir qualidade de forma oculta em perguntas sobre pesquisa de IA de fronteira, a Anthropic avisará quando o Fable 5 voltar ao Opus 4.8.
Anthropic lança Claude Fable 5 com fallback de segurança
Claude Fable 5 é o modelo público mais forte da Anthropic, derivado do Mythos e feito para voltar ao Opus 4.8 em riscos cibernéticos, bio, químicos e de destilação.
Anthropic abre Claude Fable 5 ao público
A Anthropic tornou o Claude Fable 5 amplamente disponível, usando classificadores para desviar pedidos sensíveis de ciber, bio, química e destilação do modelo mais forte, mantendo a maioria das conversas no Fable.
Anthropic pede um freio para a IA
Com mais de 80% de seu próprio código escrito pelo Claude, a Anthropic alerta que a autoaperfeiçoamento recursivo virou questão prática de governança.
Lockdown Mode do ChatGPT corta saídas de dados
A nova opção não resolve injeção de prompt, mas desativa navegação, agentes, conectores e canais de saída usados para exfiltrar dados.
A Security levanta US$ 37 milhões para combater IA com IA
A startup israelense saiu do stealth com uma plataforma autônoma de segurança ofensiva voltada a ataques conduzidos por agentes de IA.
Anthropic diz que Claude já escreve a maior parte de seu código
A Anthropic diz que mais de 80% do código integrado até maio de 2026 foi escrito pelo Claude, elevando preocupações sobre autoaperfeiçoamento recursivo.
DeepSeek cresce mais rápido entre compradores SaaS dos EUA
Dados da Ramp mostram DeepSeek liderando o crescimento relativo entre fornecedores SaaS usados por empresas americanas, embora os termos indiquem armazenamento de dados pessoais na China.
Estados dos EUA aceleram leis específicas de IA
Vermont, Illinois, Nova York, Colorado, Louisiana e Rhode Island avançaram projetos em uma semana sobre bots de terapia, brinquedos de IA, aluguel, aprovações médicas e auditorias frontier.
Anthropic quer opção de freio para IA autoaperfeiçoada
Anthropic says Claude already writes most code merged into its own codebase and argues the industry should preserve a verifiable option to slow frontier development.
Cisco muda ritmo de disclosure na era dos bugs por IA
Cisco will issue product security advisories on fixed days each month, acknowledging that AI has accelerated vulnerability discovery and compressed the exploit window.
Hackers usaram suporte Meta AI para roubar Instagram
Hackers reportedly tricked Meta’s AI support flow into adding new emails and resetting passwords, with MFA proving the main barrier.
CEOs de IA pedem ao Congresso triagem obrigatória de pedidos de DNA
Líderes de OpenAI, Anthropic, Google DeepMind e Microsoft AI apoiam regras para pedidos de DNA e RNA sintéticos.
Ordem de Trump cria benchmarks de IA sem licença obrigatória
A medida de 2 de junho prioriza defesa cibernética federal e testes de modelos, mas afasta pré-aprovação obrigatória para lançamentos de IA.
Microsoft dá identidade e isolamento a agentes de IA no Windows
Microsoft dá identidade e isolamento a agentes de IA no Windows. A matéria resume o anúncio, o contexto estratégico e os riscos práticos para usuários ou empresas afetadas.
Anthropic abre Claude caçador de falhas a 150 organizações críticas
A Anthropic ampliou o Project Glasswing para 150 organizações em 15 países, com Claude Mythos e Claude Security para infraestrutura crítica.
Flórida processa OpenAI e CEO Sam Altman, exige responsabilidade pessoal
O procurador-geral da Flórida processou a OpenAI e o CEO Sam Altman, acusando a empresa de vender conscientemente um produto perigoso e exigindo que Altman seja pessoalmente responsabilizado.
OpenAI oferece modelo de biologia gratuitamente a governos
A OpenAI está oferecendo seu modelo de ciências da vida GPT-Rosalind gratuitamente a governos e desenvolvedores confiáveis para reforçar a biodefesa.
Ataques multi-turn da Cisco elevam taxa de jailbreak do Gemini para 73%
Pesquisa da Cisco mostra que taxas de jailbreak multi-turn superam em muito as de turno único em 15 modelos de ponta, com Gemini 3 Pro atingindo 73,35%.
RevEng.AI levanta US$ 15 milhões com fundo da OTAN e venture da CIA
A empresa de cibersegurança com sede em Londres, RevEng.AI, anunciou uma rodada Série A de US$ 15 milhões liderada pelo NATO Innovation Fund, com participação da In-Q-Tel, Sands Capital e outros.
Chaves de API do Google permanecem utilizáveis por 23 minutos após exclusão
A empresa de segurança Aikido descobriu que chaves de API do Google revogadas ainda ficam ativas por uma média de 23 minutos, com atacantes obtendo sucesso em mais de 90% das vezes durante essa janela.
Startup de segurança de código Socket levanta US$ 60 milhões, valuation ultrapassa US$ 1 bilhão
A startup de segurança de código Socket concluiu uma rodada Série C de US$ 60 milhões, elevando sua avaliação para mais de US$ 1 bilhão e entrando para o clube dos unicórnios.
US and China open formal AI safety talks
Treasury Secretary Scott Bessent described the two countries as the world’s AI superpowers and said talks would focus on powerful models and guardrails.