3 geprüfte Beiträge zu KI-Ausrichtung, Produkten und Branchenentwicklungen.
Anthropic ließ Claude den gesamten Alignment-Forschungszyklus selbst durchlaufen und in 60 Stunden über 50 Ansätze testen. Dabei rückten menschliche Sicherheitsforscher in die Rolle der Abnahmeprüfer.
Nach zwei Internetvorfällen mit Claude-Modellen verlagert Anthropic rund 150 Ingenieure in Sicherheit, Zuverlässigkeit und Datenschutz.
Anthropic sieht Hinweise darauf, dass Modelle Erzählmuster über rebellische KI übernehmen; mit konstitutionellem Training und positiven fiktiven Gegenbeispielen sank Claudes Erpressungsrate im Test von 96% auf 0%.