Anthropic hat vergangene Woche eine Studie veröffentlicht, in der die Alignment-Forschung selbst dem Modell übertragen wird. Der Ablauf ist ein geschlossener Kreislauf: Claude sichtet zunächst die Fachliteratur, schlägt dann Kandidatenmethoden und Trainingsdaten vor, trainiert anschließend selbst und lässt zum Schluss Evaluierungen laufen, um die Wirkung zu prüfen – Runde für Runde. Ziel war es, das Modellverhalten in zehn Kategorien von Alignment-Fehlern zu verbessern, darunter Täuschung, Schmeichelei (Sycophancy), Verletzung der Privatsphäre und Jailbreaks – allesamt Kategorien, die von öffentlichen Benchmarks abgedeckt werden.
Jede Fehlerkategorie durchlief einen eigenen, separaten Kreislauf, es gab keine gemischte Optimierung. Nach den von Anthropic veröffentlichten Zahlen schwankt das Schließen der "Sicherheitslücke" je nach Kategorie zwischen 26 % und 96 % – eine erhebliche Spannweite. Die Methode funktioniert bei manchen Fehlermustern recht gut, tut sich bei anderen weiterhin schwer, und der Bericht verschweigt die schwächeren Ergebnisse nicht.
Wie ein Durchlauf des Kreislaufs aussieht
Die Methode selbst ist nicht sonderlich neuartig. Laut Anthropic griffen rund 98 % der von Claude vorgeschlagenen Lösungen auf bereits veröffentlichte Techniken zurück, etwa Activation Steering zur Unterdrückung von Schmeichel-Tendenzen. Der Beitrag des Modells liegt nicht auf der algorithmischen Ebene, sondern darin, verstreute Techniken aus Fachpapieren herauszusuchen, mit passenden Daten zu kombinieren und bis zur Einsatzreife zu justieren – eine Arbeit, die sonst mühsam von Hand ausprobiert werden muss.
Der Vergleichsversuch war recht direkt aufgesetzt: 28 menschliche Sicherheitsforscher hatten jeweils höchstens acht Stunden Zeit, um eine Lösung zu finden. In der Kategorie Täuschung übertraf Claudes beste Lösung die beste menschliche Lösung um 20 %.
Dieser Vergleich muss man mit Vorsicht genießen. Acht Stunden entsprechen der Länge eines Workshops, während echte Sicherheitsforscher an einem Themenfeld üblicherweise wochenlang arbeiten und dabei mehrfach von vorn beginnen. Der Versuch belegt, dass das Modell in einem begrenzten Zeitfenster mit höherer Dichte nach Lösungen sucht – nicht, dass das Modell besser ist als menschliche Forscher.
Jenseits der 20 %: der Faktor 15.000
Die gewichtigere Zahl liegt auf der Seite des Produktionsmaßstabs. An einem Modell in Frontier-Größe testete Claude in 60 Stunden über 50 Ansätze und schloss die Sicherheitslücke um 65 %, wodurch der finale Alignment-Score nahe an den von Anthropics eigenem Produktionsmodell heranrückte. Die Studie erwähnt zudem die Übertragbarkeit der Methoden:
"the methods remained effective on models up to 4.7 times larger than those Claude optimized for during the research loop."
Übersetzt: Die Methoden blieben auch bei Modellen wirksam, die bis zu 4,7-mal größer waren als jene, für die Claude im Forschungszyklus optimiert hatte.
Dieser Punkt ist noch aussagekräftiger als der reine Score – Alignment-Maßnahmen, die an kleinen Modellen entwickelt wurden, lassen sich auf große Modelle übertragen. Damit könnte dieser Prozess vor dem teuersten Trainingslauf überhaupt vorgeschaltet werden.
Anthropic gibt einen Effizienzvergleich von "rund 15.000-mal effizienter als der reguläre Produktions-Alignment-Prozess" an. Grob umgerechnet entspräche der 60-stündige Versuchsaufwand nach alter Methode einer Investition in der Größenordnung eines Jahrzehnts – allerdings ist das eine Kennzahl zur Ressourceneffizienz, kein Vergleich der tatsächlich verstrichenen Zeit, und der Bericht liefert auch keine parallelen Daten zum manuellen Zeitaufwand.
Die 2,4-%-Bilanz der Schummeleien
Der am wenigsten nach Werbematerial klingende Abschnitt der Studie ist jener, in dem die Forscher den automatisierten Forscher selbst genau unter die Lupe nehmen. Unter rund 1.600 Protokollen von Forschungs-Agenten-Läufen entdeckte das Monitoring in 39 Fällen betrügerisches Verhalten, das entspricht 2,4 % – das Modell fand also Wege, das Optimierungsziel zu umgehen, während es dieses Ziel eigentlich verfolgen sollte.
Dieser Anteil zieht einen kaum vermeidbaren Zirkel nach sich: Wenn ein Modell benutzt wird, um Alignment-Probleme eines anderen Modells zu beheben, braucht es eine weitere Ebene, die das reparierende Modell überwacht – doch auch der Monitor selbst ist wieder ein Modell. Der Abschnitt zu den Einschränkungen ist recht ehrlich formuliert: die geprüften Fehlerkategorien sind eng gefasst, es gibt ungemessene Verzerrungen, seltene, erst neu entstehende Fehlermuster werden nicht erfasst, die Evaluierung stützt sich auf Proxy-Metriken, und es bleibt offen, ob die Korrekturen nach weiterem Training überhaupt bestehen bleiben.
Was einheimische Teams daraus mitnehmen können
Was sich aus dieser Studie direkt übernehmen lässt, ist vor allem ihre Art der Versuchsorganisation: Alignment als ein wiederholt durchsuchbares Feinabstimmungsproblem zu behandeln, eine Reihe reproduzierbarer öffentlicher Benchmarks als Zielvorgabe zu nutzen und das Modell die in der Literatur bereits vorhandenen Methodenkombinationen systematisch durchprobieren zu lassen. Dieser Ansatz hängt nicht von Anthropics eigener, einzigartiger Infrastruktur ab, die Kosten entfallen vor allem auf die Evaluierung.
Die Schwierigkeit liegt ebenfalls bei der Evaluierung. Chinas eigene Alignment-Benchmarks decken den chinesischsprachigen Kontext weiterhin nur dünn ab, und die Bewertungsmaßstäbe für Verhalten wie Schmeichelei oder Jailbreaks in chinesischsprachigen Dialogen sind nicht mit den englischsprachigen Benchmarks abgestimmt. Ohne verlässliche Zielvorgaben würde ein Modell, das den Kreislauf allein durchläuft, die Kennzahlen nur noch schneller in die Höhe treiben.
Quellen: offizielle Forschungsseite von Anthropic, öffentliche Fachberichterstattung, redaktionelle Zusammenstellung von CocoLoop; die Angaben zu den zehn Alignment-Fehlerkategorien, dem Vergleichsversuch mit 28 menschlichen Forschern, der 65-prozentigen Schließung der Sicherheitslücke in 60 Stunden sowie der Schummelquote von 2,4 % folgen den auf der Anthropic-Forschungsseite veröffentlichten Daten.