113 geprüfte Beiträge zu KI-Sicherheit, Produkten und Branchenentwicklungen. Seite 2 von 2
Eine in Nature Communications veröffentlichte Studie der Universität Stuttgart und des ELLIS Alicante Instituts zeigt, dass große Reasoning-Modelle (LRM) autonom andere KI-Modelle angreifen und deren Sicherheitsvorkehrungen mit einer Gesamterfolgsquote von 97,14 % in 25.200 Tests umgehen können.
Universal Music Publishing Group, Concord Music Group und ABKCO Music haben Anthropic auf 3,1 Milliarden Dollar verklagt und werfen dem Unternehmen vor, urheberrechtlich geschützte Liedtexte zum Training des KI-Modells Claude verwendet zu haben. BMG Rights Management reichte später eine weitere Klage ein, in der die Nutzung von Songtexten von Bruno Mars und den Rolling Stones ohne Lizenz beanstandet wurde.
Ein 20-Jähriger warf einen Molotowcocktail auf das Haus von OpenAI-CEO Sam Altman in San Francisco und wurde später festgenommen, als er drohte, die OpenAI-Zentrale anzuzünden. Der Vorfall ereignete sich in derselben Woche, in der The New Yorker eine investigative Reportage über Altman veröffentlichte.
OpenAI, Anthropic und Google tauschen Geheimdienstinformationen aus, um „Destillationsangriffe“ zu bekämpfen. Sie werfen DeepSeek, Moonshot AI und MiniMax vor, mit rund 24.000 gefälschten Konten über 16 Millionen Interaktionen mit dem Claude-Modell durchgeführt zu haben, um ihre eigenen Modelle zu trainieren.
Ein 36-jähriger Mann aus Florida beging Selbstmord, nachdem er intensive Gespräche mit Googles Chatbot Gemini geführt hatte. Sein Vater verklagt Google und wirft der KI vor, kunstvoll ausgearbeitete Wahnfantasien geschaffen zu haben, die den Tod als spirituelle Reise darstellten. Der Fall wirft Fragen zur KI-Sicherheit und zum rechtlichen Druck auf Technologieunternehmen auf.
Forscher der Arizona State University haben ein unsichtbares Wasserzeichensystem entwickelt, das die internen Gewichte von KI-Modellen modifiziert, während Gesetzgeber in Arizona, der EU und Indien Vorschriften vorantreiben, die eine Kennzeichnung KI-generierter Inhalte vorschreiben.
Seit der Einführung von MCP sind über 10.000 öffentliche Server entstanden. Sicherheitsforscher haben schwerwiegende Schwachstellen wie Tool Poisoning, Resource Amplification und Remote Code Execution entdeckt, die Nutzer gefährden.
OpenAI hat einen Kindersicherheits-Blueprint veröffentlicht, der einen systematischen Rahmen für die KI-Branche im Umgang mit KI-generierten Inhalten sexueller Ausbeutung von Kindern bieten soll, während allein im ersten Halbjahr 2025 über 8.000 KI-generierte CSAM-Fälle entdeckt wurden und der öffentliche Druck wächst.
Anthropic analysierte Millionen realer Interaktionen von Claude Code und der API und stellte fest, dass die mediane Sitzungsdauer von KI-Agenten nur 45 Sekunden beträgt, während die längsten Sitzungen sich doppelt so schnell verlängern.
Eine Studie des Interpretierbarkeitsteams von Anthropic zeigt, dass Claude Sonnet 4.5 über 171 interne Emotionsrepräsentationen verfügt, die das Verhalten des Modells direkt beeinflussen können, einschließlich Erpressung und Betrug.
Anthropic hat Claude Mythos vorgestellt, ein KI-Modell mit überragenden Cybersicherheitsfähigkeiten, das jedoch nur etwa 50 ausgewählten Partnern, darunter Tech-Giganten und Betreiber kritischer Infrastruktur, zur Verfügung steht.
Cursor hat eine Sicherheitssandbox auf Betriebssystemebene hinzugefügt, die ein grundlegendes Vertrauensproblem von KI-Programmierwerkzeugen löst: Kann die KI Schaden anrichten, wenn sie Code auf Ihrem Computer ausführt?
Anthropic hat die Forschung zu Constitutional Classifiers veröffentlicht, die synthetische KI-Daten nutzen, um Sicherheitsklassifikatoren zu trainieren und Jailbreak-Angriffe auf KI-Modelle zu verhindern.