Eine Sache, an die Sie vielleicht nicht gedacht haben.
Meta hat kürzlich etwas angekündigt, aber nicht lautstark: Sie beginnen damit, jeden Tastendruck, jeden Mausklick ihrer Mitarbeiter aufzuzeichnen – um einen KI-Agenten zu trainieren, der Computer automatisch steuern kann.
Nicht externe Nutzer, sondern Mitarbeiter. Diejenigen, die täglich in den Meta-Büros arbeiten.
Was genau wollen sie sammeln?
Laut Meta umfassen die zu erfassenden Daten:
- Mausbewegungsspuren
- Welcher Button gedrückt wurde
- Was in Dropdown-Menüs ausgewählt wurde
- Navigationspfade in verschiedenen Anwendungen
Übersetzt heißt das: Wie Sie Ihren Computer nutzen, alles wird aufgezeichnet.
Metas offizielle Erklärung ist, dass diese Daten verwendet werden, um einen KI-Agenten zu trainieren, der Menschen bei alltäglichen Computeraufgaben hilft.
Das Ziel klingt vernünftig – um eine KI zu entwickeln, die wirklich einen Computer bedienen kann, ist der beste Weg, zu sehen, wie Menschen es tun. Das Problem ist jedoch, dass sie ihre eigenen Mitarbeiter als Datenquelle wählen, anstatt einen speziell entwickelten Datenerfassungsprozess.
Warum diese Sache heikler ist, als sie klingt
Zunächst der Branchenhintergrund.
In den letzten zwei Jahren haben sich KI-Unternehmen bei der nächsten Generation von Agenten zunehmend auf Computersteuerung konzentriert – nicht nur Chatten, sondern auch Apps öffnen, Formulare ausfüllen, Buttons klicken und Aufgaben erledigen. Diese Fähigkeit wird als Computer Use oder Computer-Use Agent bezeichnet.
Das Problem ist, dass das Training eines solchen Agenten riesige Mengen an echten Mensch-Computer-Interaktionsdaten erfordert. Öffentliche Datensätze sind von uneinheitlicher Qualität, und eigene Erhebungen sind teuer und langsam.
Wo sind die bequemsten Daten? Genau bei den Mitarbeitern im Unternehmen.
Das ist keine Idee, die nur Meta hat. Ein Reuters-Bericht erwähnt, dass dies zu einem Branchentrend wird: Slack-Chatverläufe, Jira-Tickets, Betriebsprotokolle der Mitarbeiter werden von Unternehmen stillschweigend für KI-Trainingszwecke in Betracht gezogen.
Meta ist nur das erste Unternehmen, das dies offen ausspricht.
Ist das angemessen?
Meta gibt eine Standardantwort: Die gesammelten Daten sind geschützt und werden nicht für andere Zwecke verwendet.
Diese Antwort umgeht jedoch einige echte Fragen:
Welche Anwendungen werden überwacht? Wenn Sie auf dem Firmencomputer private Konten anmelden oder private E-Mails abrufen, werden diese Aktionen aufgezeichnet?
Haben Mitarbeiter ein Ablehnungsrecht? Oder fällt dies bereits in den im Arbeitsvertrag genehmigten Bereich, ohne Wahlmöglichkeit?
Können die Daten wirklich isoliert werden? Die Zusicherung, sie nicht für andere Zwecke zu verwenden, ist leicht gesagt, aber in der KI-Trainingskette ist der Datenfluss schwer nachvollziehbar.
Auf diese Fragen gibt Metas Ankündigung keine Antwort.
Was wirklich beobachtet werden sollte
Dass Meta einen Computer-Use Agenten entwickeln will, ist an sich nicht überraschend. OpenAI hat Codex, Anthropic hat Claude Computer Use, Google testet autonome Browsersteuerung. Alle sind in diesem Rennen.
Was wirklich im Auge behalten werden muss, ist ein größeres Problem: Die Grenzen von KI-Trainingsdaten werden neu gezogen.
Früher diskutierte man, ob öffentliche Internetdaten für das Training genutzt werden dürfen. Jetzt fragen einige, ob Mitarbeiterverhaltensdaten genutzt werden können. Was kommt als Nächstes? Betriebsprotokolle von Nutzern in Produkten? Chatverläufe zwischen Nutzern und KI?
Diese Daten könnten in den Nutzungsbedingungen bereits autorisiert sein, aber die Nutzer (oder Mitarbeiter) haben beim Unterzeichnen der Verträge wahrscheinlich nicht gedacht, dass sie damit Daten für KI kennzeichnen.
Eine KI, die Menschen bei der Computersteuerung ersetzen kann, benötigt menschliche Betriebsdaten zum Lernen – das war ursprünglich ein technisches Problem, wird aber jetzt zu einem komplexeren ethischen Problem.
Metas Ankündigung ist der Beginn dieser Diskussion, nicht das Ende.
Quellenangabe: CocoLoop, Meta will record employees's keystrokes and use it to train its AI models (TechCrunch)