Am 5. Februar dieses Jahres veröffentlichte OpenAI GPT-5.3-Codex – die Programmierfähigkeiten machten einen großen Sprung nach oben. Doch damit einher ging ein wenig schmeichelhaftes Etikett: die erste „hohe“ Cybersicherheitsrisikostufe im internen Sicherheitsbewertungsrahmen von OpenAI.
Wie gefährlich ist es wirklich?
OpenAI selbst drückte sich zurückhaltend aus: „Es gibt keine eindeutigen Beweise dafür, dass das Modell Cyberangriffe vollständig automatisieren kann“, aber „aus Vorsorgegründen“ habe man den „bisher umfassendsten Cybersicherheitsschutz-Stack“ implementiert.
Übersetzt bedeutet das: Die Programmierfähigkeit dieses Modells hat einen kritischen Punkt erreicht. Wenn es in großem Maßstab automatisiert ausgenutzt wird, könnte es im Bereich der Cybersicherheit echten Schaden anrichten.
Sicherheitsmaßnahmen
OpenAI hat mehrere Schutzebenen eingeführt:
- Sicherheitstraining: Ausrichtung auf Modellebene
- Automatische Überwachung: Erkennung verdächtiger Anfragen
- Abgestufter Zugriff: Risikoreiche Operationen nur für vertrauenswürdige Benutzer
- Herabstufungs-Routing: Bei Erkennung hoher Cybersicherheitsrisiken werden Anfragen automatisch an die Vorgängergeneration GPT-5.2 weitergeleitet
Der Veröffentlichungszeitplan war ebenfalls ungewöhnlich vorsichtig – die vollständige Freigabe für Entwickler wurde verzögert.
Nachwirkungen
Die kalifornische KI-Sicherheitsaufsichtsbehörde erklärte anschließend, dass diese Veröffentlichung möglicherweise gegen das neu verabschiedete KI-Sicherheitsgesetz des Bundesstaates verstoße. OpenAI wies die Anschuldigung zurück.
Im März wurde zudem eine Codex-GitHub-Token-Leck-Sicherheitslücke aufgedeckt – die später gepatcht wurde.
OpenAI stellte außerdem API-Guthaben in Höhe von 10 Millionen US-Dollar zur Unterstützung der Netzwerkabwehrforschung bereit, als Fortsetzung des 2023 gestarteten 1-Millionen-US-Dollar-Cybersicherheits-Förderprogramms.
Dahinter steckt ein tiefer Widerspruch: Je stärker die Programmierfähigkeit, desto höher das Missbrauchsrisiko. Die Verbesserung der Modellfähigkeiten und das Wachstum der Sicherheitsrisiken sind nahezu linear korreliert. OpenAI hat den Weg „erst veröffentlichen, dann schützen“ gewählt, anstatt „erst schützen, dann veröffentlichen“. Zu dieser Wahl gibt es in der Branche große Meinungsverschiedenheiten.
Quellenangabe: CocoLoop, Bericht von Fortune