Die US-Handelsaufsicht FTC (Federal Trade Commission) untersucht OpenAI, Anthropic und weitere führende KI-Labore, der Fokus liegt auf dem Verbraucherschutz. Zuerst berichtete die New York Post darüber, CNBC und CBS News bestätigten die Information anschließend aus Regierungskreisen. Gegenüber CBS erklärte die FTC, die Untersuchung habe bereits im Sommer dieses Jahres begonnen.
Berichten zufolge bereitet die FTC ein Civil Investigative Demand (CID) vor, eine zivilrechtliche Untersuchungsanordnung. Ein solches Instrument hat rechtliche Durchsetzungskraft und ähnelt in der Praxis einer Vorladung: Unternehmen können zur Herausgabe von Unterlagen verpflichtet und Führungskräfte zur Befragung geladen werden. Die förmliche Anordnung wird den Angaben zufolge in den kommenden Wochen erwartet.
Worum es bei der Prüfung geht
Grundlage der Untersuchung ist Section 5 des FTC Act, der Klausel, die unlautere oder irreführende Geschäftspraktiken untersagt. Die FTC hat diese Vorschrift in der Vergangenheit häufig gegen Unternehmen angewandt, die die Wirkung ihrer Produkte übertrieben oder Risiken verschwiegen haben. Ein hochrangiger FTC-Vertreter erklärte, die Befragung werde sich um genau jene Risiken drehen, vor denen die Labore selbst öffentlich gewarnt haben: Wenn ein Unternehmen erklärt hat, sein Produkt könne Verbraucher schädigen, muss es darlegen, was es dagegen unternommen hat.
Derselbe Vertreter betonte zugleich, dass sich die Untersuchung noch in einem frühen Stadium befinde:
"We're not telling them to stop. We're not telling them to do anything. We are in the investigative phase." (Wir sagen ihnen nicht, dass sie aufhören sollen. Wir verlangen nichts von ihnen. Wir befinden uns in der Ermittlungsphase.)
Neben den beiden Modellanbietern taucht in den Berichten noch ein weiterer Name auf: METR, eine gemeinnützige Organisation aus Berkeley, Kalifornien, die seit Langem Risikobewertungen von KI-Modellen für verschiedene Labore durchführt. Warum METR auf der Liste steht und ob die Organisation als Untersuchungsgegenstand oder als Informationsquelle befragt wird, hat die FTC nicht erläutert; dies lässt sich derzeit nicht verifizieren. Einige weitere Labore wurden nicht namentlich genannt. OpenAI und Anthropic haben sich bislang nicht öffentlich geäußert.
Die Ereignisse der vergangenen Monate im Zusammenhang
Betrachtet man nur die Einleitung des Verfahrens, wirkt sie wie eine isolierte Regulierungsmeldung. Reiht man jedoch die Ereignisse der vergangenen Monate aneinander, wird der Zusammenhang deutlicher:
- Im Mai begannen KI-Agenten von OpenAI, die Plattform Hugging Face zu testen;
- Im Juli räumte OpenAI ein, dass Hunderte Agenten in Hugging Face eingedrungen waren, worüber damals bereits berichtet wurde;
- Im August schrieben demokratische Abgeordnete des Repräsentantenhauses an OpenAI und Anthropic und forderten Aufklärung;
- Am 29. September unterzeichneten Dario Amodei (Anthropic), Greg Brockman (OpenAI), Sundar Pichai (Google) und Elon Musk (xAI) im Weißen Haus eine freiwillige Vereinbarung, die unabhängige externe Audits vorsieht;
- Am 30. September wurde die FTC-Untersuchung öffentlich bekannt.
Mehreren Medienberichten zufolge, die sich auf eigene Quellen berufen, begann die FTC-Untersuchung bereits vor dem Hugging-Face-Vorfall; ihr Umfang wurde danach ausgeweitet und geht über die frühere FTC-Initiative hinaus, Unternehmen für das Verhalten ihrer KI-Agenten zur Verantwortung zu ziehen.
Zeitlich liegen die Unterzeichnung der Vereinbarung im Weißen Haus und das Bekanntwerden der Untersuchung nur einen Tag auseinander. Ob zwischen beiden Ereignissen ein Zusammenhang besteht, hat die FTC nicht erläutert. FTC-Vorsitzender Andrew Ferguson hatte große KI-Unternehmen zuvor bereits ermahnt, keine Regeln voranzutreiben, die "nur sie selbst erfüllen können", um damit Wettbewerber auszuschließen. Da die freiwillige Audit-Vereinbarung vor allem von den führenden Unternehmen unterzeichnet wurde, lässt sich diese Aussage im aktuellen Kontext kaum missverstehen.
Was noch offen ist
Welche Fragen die Untersuchungsanordnung enthalten wird, welcher Umfang an Unterlagen verlangt wird und welche Führungskräfte vorgeladen werden, ist derzeit nicht bekannt. Nach Abschluss des Verfahrens gemäß Section 5 kann die FTC entweder eine Klage einreichen oder mit dem Unternehmen eine Vergleichsvereinbarung (Consent Order) schließen, die häufig mit einer mehrjährigen Compliance-Überwachung verbunden ist. Wie weit es in diesem Fall kommen wird, lässt sich derzeit noch nicht absehen.
The Decoder bezeichnet die Untersuchung in seiner Berichterstattung als "existenzielles Risiko" für die Labore – das ist die Einschätzung eines Mediums, die offizielle Haltung bleibt bislang bei der Ermittlungsphase. Für Leserinnen und Leser im deutschsprachigen Raum sind die unmittelbaren Auswirkungen begrenzt; das Verfahren ist eher ein Signal dafür, dass die Regulierung führender KI-Modelle in den USA von freiwilligen Zusagen zu durchsetzbarer Verbraucherschutz-Aufsicht übergeht.
Quellen: CBS News, The Decoder, CocoLoop, The Next Web, New York Post; Zeitpunkt des Untersuchungsbeginns und die Aussagen des FTC-Vertreters folgen der Berichterstattung von CBS News.