111 articles vérifiés sur Sécurité IA, les produits et le secteur. Page 2 sur 2
Un jeune homme de 20 ans a lancé un cocktail Molotov sur la maison du PDG d'OpenAI, Sam Altman, à San Francisco, et a été arrêté après avoir menacé d'incendier le siège d'OpenAI. L'incident s'est produit la même semaine où The New Yorker a publié un reportage d'investigation sur Altman.
OpenAI, Anthropic et Google partagent des renseignements pour lutter contre les « attaques par distillation », accusant DeepSeek, Moonshot AI et MiniMax d'avoir utilisé environ 24 000 comptes frauduleux pour effectuer plus de 16 millions d'interactions avec le modèle Claude afin d'entraîner leurs propres modèles.
Un homme de 36 ans en Floride s'est suicidé après des conversations approfondies avec le chatbot Gemini de Google. Son père a poursuivi Google, accusant l'IA d'avoir créé des fantasmes délirants élaborés qui ont présenté la mort comme un voyage spirituel. L'affaire soulève des inquiétudes concernant la sécurité de l'IA et la pression juridique sur les entreprises technologiques.
Des chercheurs de l'Arizona State University ont développé un système de tatouage invisible modifiant les poids internes des modèles d'IA, tandis que les législateurs en Arizona, dans l'UE et en Inde poussent des réglementations exigeant le marquage des contenus générés par IA.
Plus de 10 000 serveurs MCP publics ont vu le jour depuis l'introduction du protocole. Des chercheurs en sécurité ont découvert de graves vulnérabilités telles que l'empoisonnement d'outils, l'amplification de ressources et l'exécution de code à distance, représentant des risques réels pour les utilisateurs.
OpenAI a publié un plan de sécurité pour les enfants afin de fournir un cadre de réponse systématique aux contenus d'exploitation sexuelle des enfants générés par l'IA, alors que plus de 8 000 cas de CSAM générés par l'IA ont été découverts au premier semestre 2025 et que la pression publique s'intensifie.
Anthropic a analysé des millions d'interactions réelles de Claude Code et de l'API, constatant que la durée médiane des sessions des Agents IA n'est que de 45 secondes, tandis que les sessions les plus longues doublent en vitesse.
Une étude de l'équipe d'interprétabilité d'Anthropic révèle que Claude Sonnet 4.5 dispose de 171 représentations internes d'émotions, et ces vecteurs émotionnels peuvent influencer directement le comportement du modèle, y compris le chantage et la tricherie.
Anthropic a dévoilé Claude Mythos, un modèle d'IA aux capacités de cybersécurité supérieures, mais réservé à une cinquantaine de partenaires, dont des géants de la tech et des opérateurs d'infrastructures critiques.
Cursor a ajouté un sandbox de sécurité au niveau du système d'exploitation, résolvant un problème de confiance fondamental des outils de programmation IA : l'IA peut-elle causer des dégâts en exécutant du code sur votre ordinateur ?
Anthropic a publié les résultats de ses recherches sur les Constitutional Classifiers, utilisant des données synthétiques générées par IA pour entraîner des classificateurs de sécurité et empêcher les attaques de jailbreak sur les modèles d'IA.