Die Europäische Kommission hat am 31. August im Rahmen des Digital Services Act (DSA) eine neue Reihe von Einstufungen vorgenommen: ChatGPT gilt nun als sehr große Online-Suchmaschine (VLOSE), Reddit und Roblox wurden als sehr große Online-Plattformen (VLOP) eingestuft. Es ist das erste Mal, dass ein KI-Chatbot in die strengste Kategorie dieses Regelwerks fällt.
Ausschlaggebend für die Einstufung ist die Nutzerzahl. Der DSA-Schwellenwert liegt bei durchschnittlich mehr als 45 Millionen monatlich aktiven Nutzern in der EU, was etwa einem Zehntel der EU-Bevölkerung entspricht. Alle drei Dienste liegen deutlich darüber: ChatGPT kommt in der EU auf 159 Millionen monatliche Nutzer, Reddit auf 57,2 Millionen, Roblox auf 48 Millionen. Mit diesen drei neuen Fällen steigt die Zahl der Dienste, die den strengsten Regeln unterliegen, auf 28.
Warum "Suchmaschine"
Die Begründung der Kommission lautet: ChatGPT sei ein KI-System, das mit Nutzern interagiere und auf deren Eingaben und Anfragen reagiere, wozu auch die Durchführung von Websuchen gehöre – und laut DSA-Definition reiche diese Funktion aus, um als Online-Suchmaschine zu gelten.
Die Einstufung hat konkrete Folgen. Der DSA unterteilt sehr große Dienste in VLOP und VLOSE: Erstere richten sich an Plattformen, die nutzergenerierte Inhalte hosten, Letztere an Suchdienste, die Informationen Dritter abrufen und darstellen – die jeweiligen Compliance-Pflichten überschneiden sich nicht vollständig. Reddit und Roblox fallen unter VLOP und müssen sich mit Inhalten befassen, die Nutzer auf ihren eigenen Plattformen veröffentlichen; ChatGPT fällt unter VLOSE und muss sich mit dem befassen, was es selbst recherchiert, zusammenstellt und wiedergibt. Bei einem Modell, das gleichzeitig sucht und antwortet, ist die Grenze der Verantwortung in dieser zweiten Kategorie deutlich unschärfer als in der ersten.
Die Zuständigkeiten sind bereits verteilt: ChatGPT und Reddit werden vom irischen Digital Services Coordinator betreut, Roblox von der niederländischen Verbraucher- und Marktaufsicht (ACM).
Vier Monate für die Hausaufgaben
Alle drei Dienste haben eine Übergangsfrist von vier Monaten, danach müssen sie im Wesentlichen drei Pflichten erfüllen: eine jährliche systemische Risikobewertung, eine unabhängige Prüfung sowie die Weitergabe von Daten an Aufsichtsbehörden und geprüfte Forscher.
Der Umfang der Risikobewertung ist breit gefasst – illegale Inhalte, Schutz Minderjähriger, körperliche und psychische Gesundheit der Nutzer sowie Grundrechte. Bei Reddit und Roblox betrifft das die seit Jahren diskutierten Themen Inhaltsmoderation und Jugendschutz; bei ChatGPT verschiebt sich der Prüfgegenstand auf die Ausgaben des Modells selbst. Unter welchen Umständen ein Modell schädliche Ratschläge gibt, wie stark Antworten an minderjährige Nutzer eingeschränkt werden müssen, wie sich die Verlässlichkeit von Suchquellen messen lässt – für all das gibt es im DSA-Rahmen bislang keine etablierte Prüfmethode. Der erste Prüfbericht wird das erste öffentliche Beispiel dieser Art in der Branche sein.
Auch die Klausel zur Datenweitergabe hat Gewicht. Geprüfte Forscher können bereits seit zwei Jahren auf Plattformdaten sozialer Netzwerke zugreifen, um Studien durchzuführen – bei einem Closed-Source-Modellprodukt ist das ein Novum. Ob Forscher dabei nur Nutzungsstatistiken oder auch Daten zum Modellverhalten selbst erhalten, ist bislang nicht geregelt.
Bei den Strafen bleibt es beim gewohnten DSA-Rahmen: Verstöße können mit bis zu 6 Prozent des weltweiten Jahresumsatzes geahndet werden.
Ein Maßstab für andere
Die geschäftsführende Vizepräsidentin der EU-Kommission, Henna Virkkunen, erklärte, die neuen Einstufungen bedeuteten, dass ChatGPT, Reddit und Roblox künftig einer strengeren Kontrolle und Rechenschaftspflicht unterliegen: "These new designations mean that ChatGPT, Reddit and Roblox will now be held to a higher standard of scrutiny and accountability". Die Kommission fügte hinzu, sie werde die digitale Landschaft weiterhin genau beobachten und bei jeder Plattform, die den Schwellenwert erreiche, nicht zögern zu handeln.
159 Millionen sind, grob gerechnet auf die rund 450 Millionen Einwohner der EU, fast ein Drittel. Die Verbreitung von ChatGPT in Europa liegt damit bereits in der Größenordnung großer Social-Media-Produkte – dass es in die strengste Kategorie fällt, war nur eine Frage der Zeit. Wirklich betroffen von dieser Einstufung sind die nächsten in der Reihe: Gemini, Copilot, Perplexity und ähnliche Produkte mit Suchfunktion müssen künftig zuerst ihre eigenen Nutzerzahlen an der VLOSE-Schwelle messen, bevor sie über EU-Compliance sprechen.
Quellen: Einstufungsmitteilung der Europäischen Kommission nach dem Digital Services Act, Euronews, CocoLoop, ITHome; die monatlichen Nutzerzahlen in der EU und der Schwellenwert von 45 Millionen folgen der Mitteilung der Kommission, die Dauer der Übergangsfrist wird von beiden Quellen übereinstimmend angegeben.