Anthropic hat gestern (7. April) etwas Ungewöhnliches getan: Das Unternehmen veröffentlichte ein neues Modell, gewährt der Allgemeinheit jedoch keinen Zugang.
Das Modell heißt Claude Mythos. In der internen Bewertung von Anthropic heißt es, es übertreffe jedes andere KI-Modell in Bezug auf Cybersicherheitsfähigkeiten bei weitem. Die Entscheidung: keine öffentliche Freigabe, nur eine kleine Gruppe ausgewählter Partner erhält Zugang für Tests.
Das Projekt trägt den Namen Project Glasswing.
Wer bekommt Zugang?
Die Liste ist beeindruckend: AWS, Apple, Nvidia, Google, Microsoft, Cisco, CrowdStrike, JPMorgan Chase … etwa zehn Tech-Giganten, plus 40 weitere Organisationen, die für den Betrieb kritischer Infrastruktur verantwortlich sind.
Insgesamt rund 50 Organisationen. Das Internet, das von Milliarden Menschen weltweit genutzt wird, soll künftig darauf angewiesen sein, dass diese 50 Organisationen mit Mythos Sicherheitslücken schließen.
Anthropic legte zudem 100 Millionen US-Dollar an Modellnutzungskontingenten für diese Partner bei und spendete direkt 4 Millionen US-Dollar an die Open-Source-Sicherheitscommunity.
Welche Schwachstellen kann Mythos tatsächlich finden?
In den letzten Wochen hat Anthropic mit Mythos Preview eine Reihe von Scans durchgeführt:
- Tausende Zero-Day-Schwachstellen, die alle gängigen Betriebssysteme und Browser abdecken
- Eine 27 Jahre alte Schwachstelle in OpenBSD, die einen Remote-Systemabsturz auslösen kann
- Ein 16 Jahre alter Fehler in FFmpeg, der zuvor Millionen automatisierter Tests unbemerkt überstanden hatte
- Mehrere Linux-Kernel-Schwachstellen, die eine Rechteausweitung ermöglichen
27 Jahre. Das ist keine Fehlersuche, das ist eine Ausgrabung.
Der FFmpeg-Fehler verdeutlicht das Problem noch mehr: Millionen automatisierter Scans haben ihn nicht erfasst, eine KI entdeckte ihn innerhalb weniger Wochen. Herkömmliche Sicherheitstools sollten sich über ihre eigene Zukunft Gedanken machen.
Warum keine Veröffentlichung?
Anthropic hat Regierungsvertreter auf höchster Ebene privat gewarnt: Mythos mache groß angelegte KI-gesteuerte Cyberangriffe in diesem Jahr deutlich wahrscheinlicher.
Bereits vor einem Monat hieß es in einem versehentlich veröffentlichten internen Entwurf: Mythos übertreffe derzeit jedes andere KI-Modell in Bezug auf Cybersicherheitsfähigkeiten bei weitem. Dieser Satz war damals keine Angeberei, sondern ein ernsthafter Ausdruck von Besorgnis.
Verteidigung und Angriff nutzen dieselben Fähigkeiten. Mythos kann Ihnen helfen, Schwachstellen zu finden und zu beheben, aber es kann auch Hackern helfen, Schwachstellen zu finden und einzudringen. Der Ansatz von Anthropic: Der Verteidigung einen Vorsprung verschaffen – damit große Unternehmen und Betreiber kritischer Infrastruktur die Lücken schließen können, bevor Angreifer es tun.
Ist diese Strategie problematisch?
Dies ist eine ziemlich heikle Wette.
Das Überzeugende: Wenn Mythos tatsächlich in der Lage ist, jahrzehntealte, ungepatchte Schwachstellen in großem Umfang aufzuspüren, ist das auf der Verteidigungsseite tatsächlich bahnbrechend. Die bestehenden Sicherheitstools sind offensichtlich nicht dazu in der Lage, sonst wäre die 27 Jahre alte OpenBSD-Lücke längst entdeckt worden.
Aber wie lange kann das Modell der Beschränkung auf 50 Organisationen aufrechterhalten werden? Könnten Insider bei den Partnern undichte Stellen verursachen? Könnten andere Labore ähnliche Fähigkeiten nachbilden?
Das grundlegendere Problem: Anthropic hat es bereits gebaut. Ob veröffentlicht oder nicht, die Fähigkeit existiert bereits. Anstatt sich darüber zu streiten, ob sie veröffentlicht werden soll oder nicht, sollte man fragen: Wie viele Lücken können diese 50 Organisationen schließen, bevor die Konkurrenz über ähnliche Fähigkeiten verfügt?
Project Glasswing ist weniger ein Risikomanagement als vielmehr ein Wettlauf gegen die Zeit.
Quellenangabe: Anthropic debuts preview of powerful new AI model Mythos in new cybersecurity initiative (TechCrunch); CocoLoop, Anthropic is giving some firms early access to Claude Mythos to bolster cybersecurity defenses (Fortune); Project Glasswing: Securing critical software for the AI era (anthropic.com); Project Glasswing: Anthropic announces big tech consortium to test Claude Mythos (IT Pro)