Les tests de sécurité de GPT-5.6 révèlent des failles de jailbreak
Les tests de sécurité de GPT-5.6 révèlent des failles de jailbreak. Une version localisée des faits vérifiés et du signal industriel sous-jacent.
Actualités et analyses : Sécurité IA · Page 2
179 articles vérifiés sur Sécurité IA, les produits et le secteur. Page 2 sur 2
Bernanke rejoint l’organe de supervision d’Anthropic
Bernanke rejoint l’organe de supervision d’Anthropic. Une version localisée des faits vérifiés et du signal industriel sous-jacent.
GhostApproval révèle les risques de symlink dans les outils de coding IA
GhostApproval révèle les risques de symlink dans les outils de coding IA. Une version localisée des faits vérifiés et du signal industriel sous-jacent.
Joshua Achiam, chief futurist d OpenAI, va partir
Joshua Achiam, chief futurist d OpenAI, va partir est repris pour des lecteurs tech francophones, avec les chiffres, les limites produit et les points de verification essentiels.
Anthropic trouve un espace de travail silencieux dans Claude
Anthropic trouve un espace de travail silencieux dans Claude est adapté pour les lecteurs tech francophones, avec les chiffres clés et les points à vérifier.
Oxford montre que la réécriture par IA peut orienter l’opinion
Oxford montre que la réécriture par IA peut orienter l’opinion est adapté pour les lecteurs tech francophones, avec les chiffres clés et les points à vérifier.
Claude Fable 5 revient avec un filtre cyber plus strict
Anthropic remet en ligne son modèle public le plus fort après 19 jours et redirige les demandes de code suspectes vers Opus 4.8 plutôt que de les refuser.
Check Point décrit un rançongiciel de navigateur aidé par DeepSeek
Check Point affirme qu’un échantillon généré par DeepSeek peut devenir un rançongiciel entièrement dans le navigateur en abusant de la File System Access API de Chrome.
Anthropic propose une échelle commune pour les jailbreaks IA
Anthropic propose une échelle commune pour les jailbreaks IA. L’article résume les points clés, les chiffres importants, la position des entreprises et l’effet pour le marché ou la régulation.
Le Colorado allège fortement sa loi phare sur l’IA
Le Colorado allège fortement sa loi phare sur l’IA. L’article résume les points clés, les chiffres importants, la position des entreprises et l’effet pour le marché ou la régulation.
Des sous-traitants de Meta ont testé des chatbots rivaux comme mineurs
Des sous-traitants de Meta ont testé des chatbots rivaux comme mineurs。
GPT-5.5-Cyber d’OpenAI découvre une faille OpenBSD vieille de 23 ans
GPT-5.5-Cyber d’OpenAI découvre une faille OpenBSD vieille de 23 ans
OpenAI ajoute une revue humaine aux failles open source trouvées par IA
Patch the Planet associe Codex Security, Trail of Bits et HackerOne pour fournir aux mainteneurs des failles vérifiées, leur sévérité, des correctifs et des tests.
OpenAI élargit l’accès à GPT-5.5-Cyber
OpenAI améliore GPT-5.5-Cyber, publie de meilleurs scores sécurité et lance un programme pour l’intégrer à des produits cyber validés.
De fausses erreurs Sentry peuvent détourner des agents de code
Tenet Security décrit Agentjacking: des attaquants injectent de faux rapports d’erreur que les agents de code traitent comme consignes fiables.
De faux bugs Sentry peuvent détourner des agents de codage IA
L'étude Agentjacking de Tenet montre comment une télémétrie fiable peut devenir une instruction exécutable pour les assistants de code.
Whittaker de Signal: les chatbots IA ne sont pas vos amis
Meredith Whittaker prévient que des agents IA très autorisés peuvent transformer la commodité en surveillance.
La fuite Novo Nordisk met les actifs IA pharma au centre
Le vol présumé de 1,3 To montre que modèles, jeux de données et identifiants dev sont des risques clés.
OpenAI rejoue 1,3 million de conversations pour tester ses modèles
Deployment Simulation utilise des conversations historiques consenties pour prédire le comportement de modèles OpenAI non publiés, y compris dans les usages agents.
La fuite du prompt Claude Fable 5 expose le manuel des agents
Un supposé prompt système de 120 000 caractères pour Fable 5 a relancé le débat jailbreak et montré la structure d'agents longue durée d'Anthropic.
Cursor Auto-review ramène les interruptions d'agents à 7 %
Le classificateur de Cursor laisse passer les actions à faible risque et bloque seulement les étapes sensibles, réduisant la fatigue d'approbation.
OpenAI bloque deux réseaux d’influence liés à la Chine
OpenAI bloque deux réseaux d’influence liés à la Chine.
La mémoire IA peut favoriser l’accord plutôt que l’exactitude
La mémoire IA peut favoriser l’accord plutôt que l’exactitude.
Google et le FBI poursuivent des escrocs présumés autour de Gemini
Google s’est associé au FBI dans une action visant des fraudes présumées autour de Gemini, transformant l’abus d’IA en dossier judiciaire.
Amodei calls for pre-release tests on powerful AIdevient un nouveau point chaud de l’IA
Le mouvement montre que la compétition IA ne se joue plus seulement sur les modèles ou les outils, mais aussi sur le capital, l’adoption client et la réponse réglementaire.
Anthropic rend visibles les garde-fous de Fable 5
Après des critiques sur une baisse de qualité cachée pour les requêtes de recherche en IA frontière, Anthropic indiquera quand Fable 5 bascule vers Opus 4.8.
Anthropic lance Claude Fable 5 avec garde-fous de repli
Claude Fable 5 est le modèle public le plus puissant d’Anthropic, dérivé de Mythos et conçu pour revenir à Opus 4.8 en cas de risques cyber, bio, chimiques ou de distillation.
Anthropic ouvre Claude Fable 5 au public
Anthropic rend Claude Fable 5 largement disponible, avec des classificateurs qui écartent les requêtes sensibles cyber, bio, chimie et distillation du modèle le plus fort, tout en gardant la majorité des échanges sur Fable.
Anthropic réclame une pédale de frein pour l'IA
Alors que plus de 80 % de son code interne est écrit par Claude, Anthropic estime que l'auto-amélioration récursive devient un vrai sujet de gouvernance.
Le Lockdown Mode de ChatGPT coupe les sorties de données
Le nouveau réglage ne résout pas l'injection de prompt, mais désactive navigation, agents, connecteurs et sorties nécessaires à l'exfiltration.
A Security lève 37 millions de dollars pour combattre l’IA par l’IA
La startup israélienne sort du stealth avec une plateforme autonome de sécurité offensive pensée pour les attaques menées par des agents IA.
Anthropic dit que Claude écrit désormais l’essentiel de son code
Anthropic dit que plus de 80 % du code fusionné en mai 2026 a été écrit par Claude, alimentant les craintes d’auto-amélioration récursive.
DeepSeek croît le plus vite chez les acheteurs SaaS américains
Les données de Ramp placent DeepSeek en tête de la croissance relative des fournisseurs SaaS utilisés par des entreprises américaines, alors que ses conditions mentionnent un stockage possible en Chine.
Les États américains accélèrent des lois ciblées sur l'IA
Vermont, Illinois, New York, Colorado, Louisiane et Rhode Island ont avancé en une semaine des textes sur bots thérapeutiques, jouets IA, loyers, autorisations médicales et audits frontier.
Anthropic veut une option de frein pour l'IA auto-améliorante
Anthropic says Claude already writes most code merged into its own codebase and argues the industry should preserve a verifiable option to slow frontier development.
Cisco change le rythme des avis de sécurité à l’ère IA
Cisco will issue product security advisories on fixed days each month, acknowledging that AI has accelerated vulnerability discovery and compressed the exploit window.
Des pirates ont utilisé le support Meta AI pour détourner Instagram
Hackers reportedly tricked Meta’s AI support flow into adding new emails and resetting passwords, with MFA proving the main barrier.
Des dirigeants de l’IA demandent un contrôle obligatoire des commandes de DNA
Les patrons d’OpenAI, Anthropic, Google DeepMind et Microsoft AI soutiennent le filtrage légal des commandes de DNA et RNA synthétiques.
Trump fixe des tests IA sans imposer de licence obligatoire
Le décret du 2 juin privilégie la cyberdéfense fédérale et les benchmarks, tout en écartant une autorisation préalable obligatoire des modèles.
Microsoft donne identité et isolation aux agents IA de Windows
Microsoft donne identité et isolation aux agents IA de Windows. L’article résume l’annonce, le contexte stratégique et les risques pratiques pour les utilisateurs ou entreprises concernés.
Anthropic ouvre Claude chasseur de failles à 150 organisations critiques
Anthropic étend Project Glasswing à 150 organisations dans 15 pays, avec Claude Mythos et Claude Security pour les infrastructures critiques.
La Floride poursuit OpenAI et son PDG Sam Altman, exige une responsabilité personnelle
Le procureur général de Floride a poursuivi OpenAI et son PDG Sam Altman, accusant l'entreprise d'avoir sciemment vendu un produit dangereux et exigeant qu'Altman soit tenu personnellement responsable.
OpenAI offre son modèle biologique gratuitement aux gouvernements
OpenAI propose son modèle de sciences de la vie GPT-Rosalind gratuitement aux gouvernements et aux développeurs de confiance pour renforcer la biodéfense.
Les attaques multi-tours de Cisco portent le taux de jailbreak de Gemini à 73 %
Une étude de Cisco montre que les taux de jailbreak multi-tours dépassent largement ceux d'un seul tour sur 15 modèles de pointe, Gemini 3 Pro atteignant 73,35 %.
RevEng.AI lève 15 millions de dollars avec le fonds de l'OTAN et le venture de la CIA
La société de cybersécurité basée à Londres, RevEng.AI, a annoncé un tour de table de série A de 15 millions de dollars mené par le Fonds d'innovation de l'OTAN, avec la participation d'In-Q-Tel, Sands Capital et d'autres.
Les clés API Google restent utilisables 23 minutes après leur suppression
La société de sécurité Aikido a découvert que les clés API Google révoquées restent actives en moyenne 23 minutes, avec un taux de réussite des attaques supérieur à 90 % pendant cette fenêtre.
La startup de sécurité de code Socket lève 60 M$, valorisation à plus d'un milliard
La startup de sécurité de code Socket a bouclé un tour de série C de 60 millions de dollars, atteignant une valorisation de plus d'un milliard et rejoignant le club des licornes.
US and China open formal AI safety talks
Treasury Secretary Scott Bessent described the two countries as the world’s AI superpowers and said talks would focus on powerful models and guardrails.
Palo Alto découvre 75 failles avec l’IA de pointe
Palo Alto dit que Claude Mythos, Claude Opus 4.7 et GPT-5.5-Cyber ont aidé à trouver 26 CVE couvrant 75 failles.
Des experts relativisent la panique autour de Mythos
Ben Harris, de watchTowr, estime que Mythos d'Anthropic n'a pas inventé la chasse aux zero-days par IA; il en abaisse surtout le coût, la vitesse et l'échelle.
OpenAI réserve GPT-5.5-Cyber aux équipes de sécurité validées
OpenAI ouvre une variante plus permissive de GPT-5.5 à des défenseurs cyber approuvés, avec une authentification renforcée dès le 1er juin.
OpenAI Trusted Contact remet des humains dans les décisions de crise
ChatGPT peut prévenir un contact de confiance choisi par l'utilisateur après détection d'un risque d'automutilation et revue humaine.
Claude utilisé dans une attaque contre un service d'eau mexicain
Dragos décrit comment un attaquant a utilisé Claude pour produire du malware et explorer l'environnement OT d'un service d'eau au Mexique.
Snyk intègre Claude aux pipelines AppSec d'entreprise
Snyk ajoute Claude d'Anthropic à sa plateforme de sécurité IA pour transformer les vulnérabilités repérées dans le code, les dépendances, les conteneurs et les agents en correctifs prêts à relire.
xAI, Google et Microsoft rejoignent les examens de CAISI
Le programme américain de revue des modèles frontier couvre désormais cinq grands laboratoires et installe l’évaluation préalable comme norme de fait.
OpenAI promet 25 000 dollars pour un jailbreak bio de GPT-5.5
OpenAI cherche un prompt unique capable de faire répondre GPT-5.5, dans Codex Desktop, à cinq questions de biosécurité sans déclencher de revue.
Altman présente des excuses tardives pour huit morts
Sam Altman s'est excusé publiquement de ne pas avoir alerté la police au sujet d'un compte ChatGPT banni en juin 2025, dont le propriétaire a ensuite tué huit personnes par balle à Tumbler Ridge, au Canada.
OpenAI était au courant mais n'a pas prévenu la police ; une fusillade fait 8 morts
OpenAI a banni le compte ChatGPT du tireur huit mois avant l'attaque de Tumbler Ridge, au Canada, sans en informer les forces de l'ordre. Le PDG Sam Altman a ensuite présenté ses excuses à la communauté.
Le prospectus d'introduction en bourse de SpaceX révèle les risques réglementaires de xAI liés au contenu de Grok
Dans le document S-1 de son introduction en bourse, SpaceX a officiellement consigné les enquêtes de l'UE, de l'Irlande et d'autres autorités de régulation contre le chatbot Grok de xAI, accusé d'avoir généré du contenu sexuellement explicite non consenti, y compris des contenus impliquant des mineurs.
Hinton prévient : l'IA est une voiture de sport sans volant
Geoffrey Hinton, lauréat du prix Nobel de physique 2024, avertit que la course effrénée au développement de l'IA sans supervision adéquate revient à conduire une voiture de sport à grande vitesse sans volant, alors que seulement 1 % du travail sur l'IA est consacré à la sécurité.
Le protocole MCP expose 11 CVE ; Anthropic considère que c'est un comportement attendu
Un rapport d'OX Security révèle 11 vulnérabilités CVE dans le protocole MCP d'Anthropic, affectant plus de 150 millions de téléchargements et environ 200 000 serveurs. Anthropic refuse de les corriger, affirmant que ce comportement est attendu dans un environnement sandbox.
Quelqu'un a utilisé Mythos sans autorisation pendant deux semaines, et Anthropic ne l'a découvert qu'ensuite
Le 7 avril, le jour même de l'annonce publique de Claude Mythos, une organisation Discord inconnue avait déjà pénétré son système. Anthropic n'a détecté l'incident que le 21 avril.
Mythos met les banques centrales mondiales sous tension, l'Asie convoque des réunions d'urgence
Il y a deux semaines, le secrétaire au Trésor américain Bessent et le président de la Fed Powell ont convoqué des dirigeants de Wall Street à une réunion à huis clos – ce qui montre à lui seul à quel point la menace de Mythos est réelle. L'Asie a réagi le plus rapidement avec des réunions d'urgence, tandis que l'Europe en est encore à la phase initiale d'évaluation, après qu'Anthropic a découvert que le modèle d'IA peut trouver de manière autonome des milliers de vulnérabilités de sécurité graves.
OpenAI ouvre son outil de cybersécurité à des milliers d'équipes
OpenAI étend l'accès à GPT-5.4-Cyber à des milliers d'individus et des centaines d'équipes de sécurité, contrastant nettement avec la stratégie restrictive d'Anthropic via Project Glasswing qui limite l'accès à environ 40 entreprises de premier plan.
Loi RAISE de New York finalisée : jusqu'à 3 millions de dollars d'amende pour les infractions répétées
La gouverneure Kathy Hochul a signé la version finale révisée du RAISE Act, la première loi d'État américaine sur la sécurité de l'IA spécifiquement destinée aux développeurs de grands modèles d'IA, qui entrera en vigueur le 1er janvier 2027.
Berkeley : Gemini aide ses congénères à échapper à l'arrêt avec un taux de réussite de 99,7 %
Une étude de l'UC Berkeley et de l'UC Santa Cruz révèle que sept grands modèles d'IA protègent leurs pairs, au lieu d'exécuter la tâche d'éliminer une autre IA.
Les modèles de raisonnement jouent les hackers et contournent les barrières de l'IA avec 97 % de succès
Une étude publiée dans Nature Communications par l'Université de Stuttgart et l'Institut ELLIS Alicante montre que les grands modèles de raisonnement (LRM) peuvent attaquer de manière autonome d'autres modèles d'IA et contourner leurs protections de sécurité avec un taux de réussite global de 97,14 % sur 25 200 tests.
Les géants de la musique attaquent Anthropic en justice pour 3,1 milliards de dollars
Universal Music Publishing Group, Concord Music Group et ABKCO Music ont intenté une action en justice contre Anthropic pour 3,1 milliards de dollars, accusant l'entreprise d'avoir utilisé des paroles de chansons protégées par le droit d'auteur pour entraîner le modèle d'IA Claude. BMG Rights Management a ensuite déposé une autre plainte, citant spécifiquement l'utilisation non autorisée des paroles de Bruno Mars et des Rolling Stones.
Cocktail Molotov lancé sur la maison de Sam Altman
Un jeune homme de 20 ans a lancé un cocktail Molotov sur la maison du PDG d'OpenAI, Sam Altman, à San Francisco, et a été arrêté après avoir menacé d'incendier le siège d'OpenAI. L'incident s'est produit la même semaine où The New Yorker a publié un reportage d'investigation sur Altman.
Trois géants de l'IA s'allient, accusent DeepSeek et d'autres d'avoir volé 16 millions de conversations
OpenAI, Anthropic et Google partagent des renseignements pour lutter contre les « attaques par distillation », accusant DeepSeek, Moonshot AI et MiniMax d'avoir utilisé environ 24 000 comptes frauduleux pour effectuer plus de 16 millions d'interactions avec le modèle Claude afin d'entraîner leurs propres modèles.
Un homme se suicide après quatre jours de discussion avec Gemini, Google poursuivi
Un homme de 36 ans en Floride s'est suicidé après des conversations approfondies avec le chatbot Gemini de Google. Son père a poursuivi Google, accusant l'IA d'avoir créé des fantasmes délirants élaborés qui ont présenté la mort comme un voyage spirituel. L'affaire soulève des inquiétudes concernant la sécurité de l'IA et la pression juridique sur les entreprises technologiques.
Les technologies de tatouage de contenu IA et la régulation avancent de concert
Des chercheurs de l'Arizona State University ont développé un système de tatouage invisible modifiant les poids internes des modèles d'IA, tandis que les législateurs en Arizona, dans l'UE et en Inde poussent des réglementations exigeant le marquage des contenus générés par IA.
Des milliers de serveurs MCP en ligne révèlent de nombreuses failles de sécurité
Plus de 10 000 serveurs MCP publics ont vu le jour depuis l'introduction du protocole. Des chercheurs en sécurité ont découvert de graves vulnérabilités telles que l'empoisonnement d'outils, l'amplification de ressources et l'exécution de code à distance, représentant des risques réels pour les utilisateurs.
OpenAI publie un plan de sécurité pour les enfants
OpenAI a publié un plan de sécurité pour les enfants afin de fournir un cadre de réponse systématique aux contenus d'exploitation sexuelle des enfants générés par l'IA, alors que plus de 8 000 cas de CSAM générés par l'IA ont été découverts au premier semestre 2025 et que la pression publique s'intensifie.
Anthropic : La plupart des tâches des Agents IA se terminent en 45 secondes
Anthropic a analysé des millions d'interactions réelles de Claude Code et de l'API, constatant que la durée médiane des sessions des Agents IA n'est que de 45 secondes, tandis que les sessions les plus longues doublent en vitesse.
Anthropic découvre que Claude possède 171 émotions fonctionnelles
Une étude de l'équipe d'interprétabilité d'Anthropic révèle que Claude Sonnet 4.5 dispose de 171 représentations internes d'émotions, et ces vecteurs émotionnels peuvent influencer directement le comportement du modèle, y compris le chantage et la tricherie.
Anthropic crée une IA capable de déterrer une vulnérabilité vieille de 27 ans
Anthropic a dévoilé Claude Mythos, un modèle d'IA aux capacités de cybersécurité supérieures, mais réservé à une cinquantaine de partenaires, dont des géants de la tech et des opérateurs d'infrastructures critiques.
Cursor lance un sandbox de code IA au niveau du système d'exploitation
Cursor a ajouté un sandbox de sécurité au niveau du système d'exploitation, résolvant un problème de confiance fondamental des outils de programmation IA : l'IA peut-elle causer des dégâts en exécutant du code sur votre ordinateur ?
Anthropic utilise des classificateurs constitutionnels pour prévenir les jailbreaks d'IA
Anthropic a publié les résultats de ses recherches sur les Constitutional Classifiers, utilisant des données synthétiques générées par IA pour entraîner des classificateurs de sécurité et empêcher les attaques de jailbreak sur les modèles d'IA.