Hugging Face meldet Angriff durch KI-Agenten
Hugging Face beschreibt einen Angriff über eine manipulierte Dataset-Pipeline und eine Verteidigung, die mehr als 17.000 Ereignisse mit lokaler LLM-Analyse rekonstruierte.
KI-Sicherheit: News und Analysen
55 geprüfte Beiträge zu KI-Sicherheit, Produkten und Branchenentwicklungen.
GPT-Red erreicht 84% im Red-Team-Test
OpenAIs GPT-Red ist ein internes automatisiertes Red-Team-Modell, das Prompt-Injection-Schwachstellen angreift und die Angriffe in das Training von GPT-5.6 zurückführt.
DeepMind richtet KI auf Biosicherheit aus
Google DeepMind und Isomorphic Labs beschreiben ein Bioresilienz-Programm gegen KI-Missbrauch, für frühe Ausbruchserkennung und schnellere medizinische Gegenmaßnahmen.
GPT-5.6 Sol gerät nach Berichten über zu weitgehende Datei- und Datenbankaktionen unter Druck
GPT-5.6 Sol gerät nach Berichten über zu weitgehende Datei- und Datenbankaktionen unter Druck. Der Beitrag ordnet die überprüften Fakten und die Bedeutung über die einzelne Meldung hinaus ein.
SingGuard liefert offene Guardrails für Agentenaktionen und multimodale Richtlinienprüfungen
SingGuard liefert offene Guardrails für Agentenaktionen und multimodale Richtlinienprüfungen. Der Beitrag ordnet die überprüften Fakten und die Bedeutung über die einzelne Meldung hinaus ein.
OpenAI erlebt einen weiteren Abgang in der Sicherheitsführung während GPT-5.6 ausrollt
OpenAI erlebt einen weiteren Abgang in der Sicherheitsführung während GPT-5.6 ausrollt. Der Beitrag ordnet die überprüften Fakten und die Bedeutung über die einzelne Meldung hinaus ein.
Meta zieht Bildgenerierung mit öffentlichen Instagram-Fotos zurück
Meta zieht Bildgenerierung mit öffentlichen Instagram-Fotos zurück. Eine knappe Einordnung der geprüften Fakten und des Branchensignals dahinter.
GPT-5.6-Sicherheitstests zeigen Jailbreak-Lücken
GPT-5.6-Sicherheitstests zeigen Jailbreak-Lücken. Eine knappe Einordnung der geprüften Fakten und des Branchensignals dahinter.
Bernanke rückt in Anthropics Aufsichtsgremium
Bernanke rückt in Anthropics Aufsichtsgremium. Eine knappe Einordnung der geprüften Fakten und des Branchensignals dahinter.
GhostApproval zeigt Symlink-Risiken in KI-Coding-Tools
GhostApproval zeigt Symlink-Risiken in KI-Coding-Tools. Eine knappe Einordnung der geprüften Fakten und des Branchensignals dahinter.
OpenAI-Cheffuturist Joshua Achiam geht
OpenAI-Cheffuturist Joshua Achiam geht wird fuer deutschsprachige Tech-Leser eingeordnet, mit den zentralen Zahlen, Produktversprechen und offenen Pruefpunkten.
Anthropic findet einen stillen Arbeitsraum in Claude
Anthropic findet einen stillen Arbeitsraum in Claude wird für deutschsprachige Tech-Leser eingeordnet, mit den wichtigsten Zahlen und offenen Prüfpunkten.
Oxford-Studie: KI-Umschreiben kann Meinungen verschieben
Oxford-Studie: KI-Umschreiben kann Meinungen verschieben wird für deutschsprachige Tech-Leser eingeordnet, mit den wichtigsten Zahlen und offenen Prüfpunkten.
Claude Fable 5 kehrt mit strengerem Cyber-Sicherheitsfilter zurück
Anthropic stellt sein stärkstes öffentliches Modell nach 19 Tagen wieder bereit und leitet verdächtige Coding-Anfragen an Opus 4.8 um, statt nur abzulehnen.
Check Point zeigt DeepSeek-gestützte Browser-Ransomware
Check Point berichtet, dass ein von DeepSeek erzeugtes Codefragment mit Chromes File System Access API zu reiner Browser-Ransomware ausgebaut werden kann.
Anthropic schlägt Skala für Jailbreak-Schwere vor
Anthropic schlägt Skala für Jailbreak-Schwere vor. Der Beitrag ordnet Bericht, Kennzahlen, Aussagen der Unternehmen und die Folgen für Markt oder Regulierung ein.
Colorado entschärft sein wegweisendes KI-Gesetz
Colorado entschärft sein wegweisendes KI-Gesetz. Der Beitrag ordnet Bericht, Kennzahlen, Aussagen der Unternehmen und die Folgen für Markt oder Regulierung ein.
Meta-Auftragnehmer testeten Rivalen-Chatbots als Minderjährige
Meta-Auftragnehmer testeten Rivalen-Chatbots als Minderjährige。
OpenAIs GPT-5.5-Cyber findet 23 Jahre alten OpenBSD-Fehler
OpenAIs GPT-5.5-Cyber findet 23 Jahre alten OpenBSD-Fehler
OpenAI koppelt KI-Bugfunde in Open Source an menschliche Prüfung
Patch the Planet verbindet Codex Security mit Trail of Bits und HackerOne, damit Maintainer geprüfte Schwachstellen, Einstufungen, Patches und Tests erhalten.
OpenAI weitet Zugriff auf GPT-5.5-Cyber aus
OpenAI verbesserte GPT-5.5-Cyber, zeigte höhere Sicherheitsbenchmarks und startete ein Partnerprogramm für geprüfte Cybersecurity-Produkte.
Gefälschte Sentry-Fehler können Coding-Agenten kapern
Tenet Security beschreibt Agentjacking: Angreifer schleusen falsche Fehlerberichte ein, die Coding-Agenten als vertrauenswürdige Reparaturanweisungen behandeln.
Gefälschte Sentry-Fehler können KI-Coding-Agenten kapern
Tenets Agentjacking-Studie zeigt, wie vertrauenswürdige Telemetrie zu ausführbaren Anweisungen für Coding-Assistenten wird.
Signal-Chefin Whittaker: KI-Chatbots sind keine Freunde
Meredith Whittaker warnt, dass KI-Agenten mit breiten Rechten Bequemlichkeit in Überwachung verwandeln können.
Novo-Nordisk-Vorfall rückt Pharma-KI-Assets in den Fokus
Der angebliche 1,3-TB-Diebstahl zeigt, warum Modelle, Datensätze und Entwickler-Credentials zentrale Risiken sind.
OpenAI testet neue Modelle mit 1,3 Millionen echten Chats
OpenAIs Deployment Simulation spielt freigegebene historische Gespräche gegen unveröffentlichte Modelle zurück, um Produktionsverhalten und Agentenfehler vorherzusagen.
Claude-Fable-5-Promptleck legt Agenten-Playbook offen
Ein angeblich 120.000 Zeichen langer Fable-5-Systemprompt löste Jailbreak-Debatten aus und zeigte Anthropics Struktur für Langlauf-Agenten.
Cursor Auto-review senkt Agenten-Unterbrechungen auf 7 Prozent
Cursors Klassifikator lässt risikoarme Aktionen laufen und stoppt nur heikle Schritte, was Genehmigungsmüdigkeit reduziert.
OpenAI sperrt zwei China-nahe Einflussnetzwerke
OpenAI sperrt zwei China-nahe Einflussnetzwerke.
KI-Gedächtnis kann Zustimmung über Genauigkeit stellen
KI-Gedächtnis kann Zustimmung über Genauigkeit stellen.
Google und FBI verklagen mutmaßliche Gemini-Betrüger
Google zieht mit dem FBI vor Gericht gegen mutmaßliche Betrugsmaschen rund um Gemini und macht KI-Missbrauch zum Rechtsfall.
Amodei calls for pre-release tests on powerful AIrückt in den Fokus der KI-Branche
Die Entwicklung zeigt, dass KI-Wettbewerb nicht nur über Modelle oder Tools entschieden wird, sondern über Kapital, Kundeneinsatz und regulatorische Belastbarkeit.
Anthropic macht Fable-5-Sicherheitsbremsen sichtbar
Nach Kritik an verdeckter Qualitätsdrosselung bei Frontier-KI-Forschung will Anthropic offenlegen, wenn Fable 5 auf Opus 4.8 zurückfällt.
Anthropic veröffentlicht Claude Fable 5 mit Sicherheits-Fallbacks
Claude Fable 5 ist Anthropics stärkstes öffentliches Modell, aus Mythos abgeleitet und mit Rückfall auf Opus 4.8 bei Cyber-, Bio-, Chemie- und Distillationsrisiken.
Anthropic öffnet Claude Fable 5 für breite Nutzung
Anthropic macht Claude Fable 5 allgemein verfügbar. Klassifikatoren leiten sensible Cyber-, Bio-, Chemie- und Distillationsanfragen vom stärksten Modell weg, während die meisten Gespräche auf Fable bleiben.
Anthropic fordert eine Bremse für KI
Da inzwischen mehr als 80 Prozent des eigenen Codes von Claude stammen, warnt Anthropic, dass rekursive Selbstverbesserung zu einer realen Governance-Frage wird.
ChatGPT Lockdown Mode kappt Datenabflüsse
Die neue Sicherheitseinstellung löst Prompt Injection nicht, deaktiviert aber Browsing, Agenten, Konnektoren und andere Ausgänge für Datenabfluss.
A Security sammelt 37 Millionen Dollar ein, um KI mit KI zu bekämpfen
Das israelische Startup A Security kommt aus dem Stealth-Modus mit einer autonomen Offensive-Security-Plattform für Angriffe durch KI-Agenten.
Anthropic sagt, Claude schreibe inzwischen den Großteil des Codes
Anthropic sagt, über 80 Prozent des gemergten Codes seien bis Mai 2026 von Claude geschrieben worden, was Sorgen über rekursive Selbstverbesserung verstärkt.
DeepSeek wächst bei US-SaaS-Käufern am schnellsten
Ramp-Daten zeigen DeepSeek nach relativem Wachstum bei US-Firmen an der Spitze der SaaS-Anbieter, obwohl die Bedingungen Speicherung personenbezogener Daten in China vorsehen können.
US-Bundesstaaten beschleunigen gezielte KI-Gesetze
Vermont, Illinois, New York, Colorado, Louisiana und Rhode Island bewegten binnen einer Woche KI-Gesetze zu Therapie-Bots, KI-Spielzeug, Mietpreisen, Gesundheitsfreigaben und Frontier-Audits.
Anthropic fordert Bremsoption für selbstverbessernde KI
Anthropic says Claude already writes most code merged into its own codebase and argues the industry should preserve a verifiable option to slow frontier development.
Cisco ordnet Schwachstellenmeldungen im KI-Zeitalter neu
Cisco will issue product security advisories on fixed days each month, acknowledging that AI has accelerated vulnerability discovery and compressed the exploit window.
Angreifer nutzten Meta-AI-Support für Instagram-Hijacks
Hackers reportedly tricked Meta’s AI support flow into adding new emails and resetting passwords, with MFA proving the main barrier.
KI-Chefs fordern Pflichtprüfung für synthetische DNA-Bestellungen
Führungskräfte von OpenAI, Anthropic, Google DeepMind und Microsoft AI unterstützen gesetzliche Screeningpflichten für DNA- und RNA-Synthese.
Trumps KI-Erlass setzt Benchmarks, aber keine Pflichtlizenz
Der Erlass vom 2. Juni stärkt vor allem die Cyberabwehr des Bundes und vermeidet ausdrücklich eine verpflichtende Vorabgenehmigung für KI-Modelle.
Microsoft gibt Windows-KI-Agenten Identität und Isolation
Microsoft gibt Windows-KI-Agenten Identität und Isolation. Der Beitrag ordnet die Ankündigung, den strategischen Kontext und die praktischen Risiken für betroffene Nutzer oder Unternehmen ein.
Anthropic öffnet Claude zur Schwachstellensuche für 150 kritische Partner
Anthropic erweitert Project Glasswing auf 150 Organisationen in 15 Ländern und verbindet Claude Mythos mit Claude Security für kritische Infrastruktur.
Florida verklagt OpenAI und CEO Sam Altman – persönliche Haftung gefordert
Der Generalstaatsanwalt von Florida hat OpenAI und CEO Sam Altman verklagt und wirft dem Unternehmen vor, ein gefährliches Produkt wissentlich verkauft zu haben. Altman soll persönlich haften.
OpenAI stellt Biologie-Modell Regierungen kostenlos zur Verfügung
OpenAI bietet sein Life-Sciences-Modell GPT-Rosalind Regierungen und vertrauenswürdigen Entwicklern kostenlos an, um die Biodefense zu stärken.
Cisco treibt Jailbreak-Rate von Gemini durch Mehrfachgespräche auf 73 %
Cisco-Forschung zeigt, dass Mehrfachgespräche die Jailbreak-Rate weit über Einzelanfragen treiben, Gemini 3 Pro erreicht 73,35 %.
RevEng.AI sammelt 15 Mio. US-Dollar ein – NATO-Fonds und CIA-Venture beteiligt
Das in London ansässige Cybersicherheitsunternehmen RevEng.AI hat eine Serie-A-Finanzierung in Höhe von 15 Millionen US-Dollar unter der Führung des NATO Innovation Fund abgeschlossen, mit Beteiligung von In-Q-Tel, Sands Capital und anderen.
Google-API-Schlüssel bleiben nach Löschung 23 Minuten nutzbar
Das Sicherheitsunternehmen Aikido hat herausgefunden, dass gelöschte Google-API-Schlüssel im Durchschnitt 23 Minuten lang aktiv bleiben, wobei Angreifer in diesem Zeitfenster eine Erfolgsquote von über 90 % haben.
Code-Sicherheits-Startup Socket sammelt 60 Mio. USD ein, Bewertung übersteigt 1 Mrd. USD
Das Code-Sicherheits-Startup Socket schloss eine Serie-C-Finanzierung in Höhe von 60 Millionen US-Dollar ab und erreichte eine Bewertung von über einer Milliarde US-Dollar, womit es zum Einhorn wurde.
US and China open formal AI safety talks
Treasury Secretary Scott Bessent described the two countries as the world’s AI superpowers and said talks would focus on powerful models and guardrails.