„Je weiter der Ausbau der künstlichen Intelligenz voranschreitet, desto größer wird der Bedarf an menschlicher Arbeit“

Herr Casilli, in den Debatten um die Entwicklung künstlicher Intelligenz ist oft zu hören, dass durch den vermehrten Einsatz intelligenter Maschinen zukünftig viele Arbeitsplätze wegfallen würden. In Ihrer Forschung drehen Sie die Frage um und untersuchen, wieviel menschliche Arbeit hinter künstlicher Intelligenz steckt. Mal ganz grundsätzlich gefragt: Was ist künstliche Intelligenz?

Ich fürchte, auf diese Frage gibt es keine einfache Antwort. Zunächst muss man festhalten, dass künstliche Intelligenz mittlerweile ein überstrapazierter Begriff ist. KI kann alles und nichts bedeuten. Dinge, die vor drei oder vier Jahren noch als Algorithmen beschrieben wurden, heißen heute KI. Dinge, die man vor zehn oder zwanzig Jahren noch als Software bezeichnete, firmieren heute ebenfalls unter diesem Label. Der Begriff künstliche Intelligenz bedeutet im kommerziellen Kontext der 2020er-Jahre kaum noch etwas Spezifisches. Vielleicht nähert man sich der Sache besser nicht direkt, sondern über einen Umweg, indem man festhält, was der Begriff nicht bezeichnet. Sicherlich haben die heutigen Programme und Systeme nichts mehr mit den ehrgeizigen wissenschaftlichen Programmen der 1950er-Jahre zu tun, die das Ziel verfolgten, eine denkende Maschine zu entwickeln. Auch wenn von interessierter Seite immer mal wieder Gegenteiliges behauptet wird: Von der Vorstellung, tatsächlich eine Maschine entwickeln zu können, die selbständig denkt wie ein Mensch, hat sich die seriöse Forschung inzwischen verbschiedet.

Worin liegen die wesentlichen Unterschiede im Vergleich zu früher?

Heutige KI-Systeme und das ihnen zugrunde liegende Verständnis von Intelligenz sind das Ergebnis einer Reihe inhaltlicher Anpassungen und Verschiebungen. Die erste Verschiebung bestand in der Beschränkung auf einen bestimmten Aspekt menschlicher Intelligenz, nämlich auf das Lernen. Anstelle einer denkenden Maschine wollte man nunmehr eine lernende Maschine entwickeln. Im Anschluss an diese Umstellung setzte sich das Konzept des automatischen Lernens durch, das in Wirklichkeit lediglich auf einer vertieften Spielart der Statistik beruht. Im Kern geht es darum, genügend Daten zu sammeln und auszuwerten, um aus ihnen bestimmte Regelmäßigkeiten herauszulesen. Auch wenn immer behauptet wird, die Maschine hätte diese Regelmäßigkeiten beschlossen, hat sie natürlich nichts dergleichen gemacht. Sie stellt lediglich statistische Eigenschaften der Datensätze heraus.

Vor zwei Jahren schrieben Sie, es gebe keine künstliche Intelligenz, bloß die Klickarbeit anderer Menschen.^[1] Sie sprechen in diesem Zusammenhang von Mikroarbeit (micro-work). Was beschreibt der Begriff?

Mikroarbeit ist eine spezielle Art von digital labor, die für das Training und die Programmierung von künstlicher Intelligenz erforderlich ist. In den letzten Jahren hat sie sich zum Synonym für Datenarbeit entwickelt. Mikroarbeit ist gewissermaßen ein Hybrid zwischen gewöhnlicher Online-Arbeit, wie sie seit der Pandemie in vielen Bereichen üblich ist, und „uberisierter“ Arbeit. Letzteres beschreibt den Umstand, dass viele Mikroarbeiter:innen nicht als Angestellte eines Unternehmens oder eines Subunternehmens beschäftigt sind, sondern als selbständige Kleinstunternehmer arbeiten, die sich jeweils für einzelne Arbeitsaufträge bewerben und auf eigene Rechnung arbeiten.

Im Allgemeinen handelt es sich dabei um Aufgaben, für die sowohl der zeitliche Aufwand als auch das Spektrum der dadurch in Anspruch genommenen menschlichen Fertigkeiten äußerst überschaubar sind. Gleichzeitig braucht es auch hierfür Talente und Fähigkeiten, die nicht ohne Weiteres vorausgesetzt werden können, sondern erstmal entwickelt werden müssen. Ein gutes Beispiel einer solchen Mikroaufgabe ist die Klassifizierung von Dutzenden, mitunter Hunderten von Bildern anhand bestimmter Kriterien. So eine Sortierung von Bildern ,per Hand‘ wird etwa durchgeführt, um aus einer Datenbank nicht jugendfreie Bilder herauszufiltern. Ein anderes Beispiel ist die Sortierung von Bildern, auf denen wahlweise eine grüne oder eine rote Ampel zu sehen ist. Solche Aufgaben werden typischerweise im Rahmen der Herstellung von Bilderkennungssoftware für autonome Fahrzeuge vergeben.

Der Einsatz von Mikroarbeit beschränkt sich aber keineswegs nur auf Bilder, häufig geht es auch um Texte. Da Texte als Grundlage für die automatische Generierung neuer Texte durch Chatbots und andere textbasierte Anwendungen dienen, ist das sogar sehr oft der Fall. Eine typische Aufgabe in diesem Zusammenhang besteht zum Beispiel im Vervollständigen von Satzanfängen. Die Formulierung „Heute ist ein schöner“ wird dann beispielsweise ergänzt durch das Wort „Tag“. Ein Mikroarbeiter kann Hunderte solcher zu vervollständigenden Sätze zur Bearbeitung erhalten. Falls Sie nach dem Sinn des Ganzen fragen, nun, der ist ganz einfach und schnell erklärt. Die entsprechende Arbeit dient dem Training generativer KI-Systeme wie etwa ChatGPT. Diese Systeme sollen durch die massenhafte Eingabe von Daten in die Lage versetzt werden, Sätze ausgehend von Hinweisen zu vervollständigen. Nutzer:innen liefern einen „Prompt“, einen Hinweis, der dann vom System vervollständigt wird. Natürlich ist die Leistungsfähigkeit eines Systems wie ChatGPT sehr beeindruckend, weil es in der Lage ist, nicht nur Satzanfänge zu vervollständigen, sondern auch Antworten auf komplexe Anfragen zu liefern. Aber das System funktioniert nach dem gleichen Prinzip. Ausgehend von verschiedenen Anfragen produziert das System auf der Grundlage einer Unmenge eingegebener Daten und statistischer Wahrscheinlichkeiten sinnvolle Anschlüsse. Auch bei Tönen oder Videos fallen ähnliche Programmieraufgaben an. Videos werden kategorisiert, annotiert und kommentiert, Töne werden transkribiert. Das sind alles Beispiele für Mikroaufgaben.

Mit Ihrem Forschungsteam, das sich DiPLab (Digital Platform Labor) nennt, führen Sie seit einigen Jahren Feldforschung in zahlreichen Ländern durch. Sie beobachten die Realität der Plattformarbeit und führen Interviews mit betroffenen Akteuren. Seit geraumer Zeit sind Sie und Ihre Kolleg:innen damit beschäftigt, die enorme Zahl von Fällen, die Sie während Ihrer Feldforschung erfasst haben, zu ordnen und zu systematisieren. Wie gehen Sie dabei vor und welchen Kategorien ordnen Sie die untersuchten Fälle zu?

Die Systematisierung, zu der wir bislang gelangt sind, sieht drei große Kategorien von Mikroaufgaben vor. Erstens gibt es Mikroaufgaben, die dazu dienen, KI-Systeme zu trainieren. Diese fallen vor allem in der Entwicklungsphase an, bevor das Produkt auf den Markt kommt. Auch hier ist der Fall von ChatGPT einschlägig, ist doch der Hinweis auf die entsprechende Praxis bereits im Akronym GPT (kurz für Generative Pre-Trained Transformer) enthalten. Aus riesigen Datenmassen, die nach den 2010er-Jahren im Internet gesammelt worden waren, wurde ein Datensatz zusammengestellt und zu Trainingszwecken annotiert. Die dazu erforderlichen Mikroaufgaben fallen in diese erste Kategorie.

Ist eine künstliche Intelligenz erst einmal auf dem Markt, muss ihr laufender Betrieb sichergestellt und dafür gesorgt werden, dass sie gemäß den Wünschen der Herstellerfirma und vor allem natürlich der Nutzer:innen funktioniert. In diesen Kontext fällt die zweite Kategorie von Mikroaufgaben: Aufgaben zur Überprüfung. Dabei stellen Personen zum Beispiel sicher, dass der Chatbot richtig funktioniert, oder führen Tätigkeiten aus, die in den Bereich der Moderation oder der Wartung fallen. Bei unserer Feldforschung sind wir auch Fällen begegnet, bei denen Personen die Transkripte von Sprachassistenten, die von Apple, Amazon oder Microsoft verwendet werden, auf mögliche Fehler und Ungereimtheiten hin überprüfen.

Was genau machen sie mit ihnen?

Sie können sich das wie folgt vorstellen: Nehmen wir an, Sie seien der Kunde. Sie fragen den Sprachassistenten: „Wie ist das Wetter heute in Lyon?“ Der Sprachassistent transkribiert Ihre Anfrage und verarbeitet sie dann. Dabei muss das Programm stets auch überprüfen, ob es die Anfrage richtig verstanden hat. Falls es Hintergrundgeräusche gibt – zum Beispiel von einer laufenden Waschmaschine – oder wenn jemand, so wie ich, mit einem besonderen Akzent oder Dialekt spricht, geraten Sprachassistenzsysteme häufig an ihre Grenzen. In diesen Fällen müssen die Klickarbeiter:innen überprüfen, ob die Maschine die Informationen richtig wiedergegeben und verarbeitet hat.

Neben dem Training und der Überprüfung gibt es noch eine dritte Kategorie von Aufgaben, die Leuten etwas problematischer oder zumindest irritierender vorkommt, als die anderen beiden. Es handelt sich nämlich um die Nachahmung von künstlicher Intelligenz. Es gibt unter den Anbietern von KI-Systemen tatsächlich Akteure, die behaupten, sie hätten einen super leistungsfähigen Algorithmus entwickelt, ein Modell, das angeblich wahre Wunder vollbringt, während sie bestimmte Arbeiten in Wirklichkeit von Hand ausführen lassen. Dieses Vorgehen ist für die Firmen manchmal billiger als die Entwicklung der versprochenen Software. Mein Team und ich haben das zum Beispiel festgestellt im Zusammenhang mit KI-Lösungen, die für ihre Kund:innen angeblich Termine verwalten oder Bilder transkribieren. Entsprechende Beispiele, auf die wir in unserer Feldforschung ebenso gestoßen sind wie in der Fachliteratur, stammen zum Teil aus großen Konzernen.

Das klingt skurril. Könnten Sie die Praxis anhand eines Beispiels näher beschreiben?

Sicher. Google beispielsweise brachte 2018 eine sprachgesteuerte künstliche Intelligenz namens Google Duplex auf den Markt, die angeblich in der Lage sein sollte, für ihre Kund:innen Telefonate zu führen, Termine zu vereinbaren oder Reservierungen zu machen. Die Ergebnisse waren unglaublich, und das aus gutem Grund. Denn wie man schon bald herausfand, wurden rund 40 Prozent der Anrufe nicht allein von der KI, sondern von Menschen getätigt oder zumindest unterstützt.^[2] Weil die Maschine der Aufgabe ab einem bestimmten Komplexitätsniveau nicht gewachsen war, mussten Mikroarbeiter:innen eines Callcenters einspringen und hinter den Kulissen aushelfen.

Wie verbreitet ist diese Art von KI-Mimikry durch Mikroarbeit?

Oh, das kommt gar nicht so selten vor. Die Firmen sprechen nur nicht so gern darüber. Deshalb sind die Leute auch irritiert, wenn diese Art von Mikroarbeit doch einmal publik wird. Sie fühlen sich betrogen, weil ihnen nicht bewusst ist, dass es sich um eine routinemäßig eingesetzte Praxis handelt. Manchmal muss die Funktionsfähigkeit eines dysfunktionalen Systems eben simuliert werden. Das ist insbesondere dann der Fall, wenn es einen Bug oder ein anderes technisches Problem gibt. In solchen Fällen kann es vorkommen, dass der Sprachassistent Aufforderungen wie „Wähle das Foto eines schönen Sonnenuntergangs aus und schicke es meinem Schatz“ falsch interpretiert. Er ist dann zum Beispiel nicht in der Lage, die Information „mein Schatz“ korrekt zu verarbeiten. Will man verhindern, dass es zu womöglich verhängnisvollen Missverständnissen kommt und der Kunde enttäuscht wird, muss man die Maschine, wie man so sagt, in abgestuftem Modus laufen lassen – während ihr ein Mensch auf die Finger schaut.

In der Testphase kommt ein solches Vorgehen sehr häufig vor, um die künstliche Intelligenz weiterzuentwickeln und um Fehler zu beheben. Daneben werden aber auch noch zahlreiche andere Tests durchgeführt, etwa Tests der Nutzerfreundlichkeit, um herauszufinden, wie Nutzer:innen das Produkt gebrauchen, oder Akzeptanz-Tests, um zu ermitteln, ob Nutzer:innen das Ergebnis annehmen oder nicht.

Hat ein KI-System auf diese Weise ein gewisses Maß an Funktionsfähigkeit erreicht, kann es für das betreffende Unternehmen günstiger sein, auf dessen weitere technische Optimierung zu verzichten und die künstliche Intelligenz mit menschlicher Intelligenz zu unterstützen. Statt eine Maschine oder ein Modell noch weiter zu entwickeln, was sehr viel Geld kostet – man muss Expert:innen einstellen, Rechenzentren finden, für Rechenleistung und Daten bezahlen –, ist es manchmal aus technischen oder betriebswirtschaftlichen Gründen sinnvoller, wenn nicht gar notwendig, einen Menschen diese Maschine simulieren zu lassen.

Ihr skeptischer Befund zur illusorischen Natur künstlicher Intelligenz steht in auffälligem Kontrast zu den überwiegend positiven Aussagen, mit denen zuletzt die Fortschritte bei der Entwicklung immer leistungsfähigerer KI-Systeme wie ChatGPT oder Dall-E kommentiert wurden. Sehen Sie Ihre Einschätzung mit Blick auf die generativen künstlichen Intelligenzen der letzten Generation eher bestätigt oder relativiert?

Im Allgemeinen hat sich an meinem Ansatz und meinen Schlussfolgerungen nichts geändert. Ich möchte aber festhalten, dass nahezu jedes neue kommerzielle Produkt, das mit dem Stempel KI auf den Markt kommt, medial gehypt wird. ChatGPT, Dall-E oder auch Midjourney sind in dieser Hinsicht keine Ausnahmen. Es handelt sich um Produkte, die relativ gut funktionieren, aber gleichzeitig sehr weit von den Wundern entfernt sind, als die sie ihre Hersteller präsentieren. Sie sind Maschinen, die oft falsche oder sinnlose Ergebnisse generieren, wie im Fall von ChatGPT, oder mittelmäßige Illustrationen erstellen, wie im Fall von Midjourney. Im Bann des kommerziellen Diskurses neigen wir jedoch dazu, bei Fehlern oder Bugs nachsichtig zu sein und Funktionsstörungen zu verzeihen. Es ist ein bisschen so wie bei verwöhnten Kindern, die man so sehr anhimmelt, dass man ihre schlechten Eigenschaften übersieht. Sieht man genauer hin, stellt man fest, dass der hochgelobte Chatbot ChatGPT bisweilen schlicht halluziniert.

Was meinen Sie damit?

ChatGPT ist eine Maschine, die Texte improvisiert; sie ist keine Suchmaschine und auch keine enzyklopädische KI. Sie dient nicht dem Zweck, Ihnen wahrhaftige Antworten auf Fragen zu liefern, sondern ausgehend von den Informationen, die Sie ihr geben, zu improvisieren. Auf der Grundlage von „Heute ist ein schöner Tag“ kann sie mehrere Seiten lang improvisieren. Sobald ich aber versuche, von ChatGPT substanzielle Antworten zu erhalten, etwa in Bezug auf tatsächliche Begebenheiten, wie etwa den Geburtstag einer bestimmten Persönlichkeit oder zum Ablauf historischer Ereignisse, neigt sie in ihrer Improvisationskunst mitunter dazu, vermeintliche Fakten zu erfinden. Ein Test für das Unvermögen von ChatGPT, den nicht wenige Menschen zum Spaß gemacht haben, besteht etwa darin, den Chatbot nach der eigenen Biografie zu fragen. Wenn Sie den Chatbot viermal nach Ihrer Biografie fragen, bekommen sie vier unterschiedliche Lebensgeschichten. Diese Geschichten enthalten zwar auch zutreffende Informationen, aber eben auch etliche andere, die frei erfunden sind. Das meine ich mit halluzinieren.

Hat die regelmäßige Aufregung über die Entwicklung neuer KI-Systeme Einfluss auf Ihre Forschung?

Nein, ganz und gar nicht. Jedes Mal, wenn eine neue, angeblich geniale KI auf den Markt kommt, warte ich einfach ab, was passiert. Oder, um es mit einem alten chinesischen Sprichwort zu sagen, ich sitze am Flussufer und warte darauf, dass die Leiche meines Feindes vorbeizieht. Es ist ja meist nur eine Frage der Zeit, bis in der Praxis die Schwächen jedes neuen KI-Systems offenbar werden. Im Fall von ChatGPT brauchte man noch nicht einmal besonders lange auf diesen Moment zu warten. Der Chatbot wurde Ende November 2022 lanciert und schon im Januar 2023 wurde publik, dass die Maschine nach wie vor auf den Einsatz von zahlreichen Menschen angewiesen ist, die sie beständig weiter trainieren und moderieren.^[3] In diesem Fall sind diese Menschen in Kenia ansässig und wurden über die Plattform SAMA rekrutiert, die in der Branche sehr bekannt ist. Aber diese Menschen sind nur eines von vielen Kontingenten von Trainern, Prüfern und, wer weiß, vielleicht auch Nachahmern, die ChatGPT am Laufen halten. Anschließend konnte man nämlich internen Dokumenten der Entwicklerfirma OpenAI entnehmen, dass auch Menschen in Südafrika, den Philippinen, Indien, der Türkei sowie den Vereinigten Staaten für diese Art von Arbeiten herangezogen werden. OpenAI hat also auf der ganzen Welt Mikroarbeiter:innen über verschiedene Plattformen angeworben.

Von wo und zu welchen Bedingungen arbeiten diese Menschen?

Mikroarbeiter:innen gibt es überall auf der Welt, aber die größte Anzahl von ihnen befindet sich in Niedriglohnländern. Das ist wenig überraschend, schließlich versuchen die meisten Unternehmen, ihre Lohnkosten zu minimieren. Die Unternehmen der Tech-Branche bilden da keine Ausnahme. Außerdem handelt es sich bei den betreffenden Ländern oft um Staaten, in denen das Arbeitsrecht nicht so streng reguliert ist, wie etwa in den meisten europäischen Ländern. Es ist also kein Zufall, dass die Firmen, die KI-Systeme produzieren, in Ländern aus dem globalen Norden ansässig sind, während die Klickarbeit, die benötigt wird, um die entsprechenden Maschinen am Laufen zu halten, mehrheitlich von Menschen im globalen Süden geleistet wird.

In diesem Zusammenhang treten auch postkoloniale oder neokoloniale Abhängigkeitsverhältnisse ziemlich deutlich zutage. In Südostasien zum Beispiel gibt es zahlreiche Betriebe, die vor allem großen Firmen der Weltmächte China und USA zuarbeiten und die auf diese Aufträge angewiesen sind. Aber auch in anderen Regionen des globalen Südens, vor allem in Afrika und Lateinamerika, arbeiten viele Menschen direkt oder indirekt für europäische beziehungsweise US-amerikanische Unternehmen.

Gibt es trotz der unterschiedlichen geografischen Kontexte Ähnlichkeiten in den Biografien dieser Arbeiter:innen oder wiederkehrende soziologische Merkmale?

Mit unserem Forschungsteam waren wir vornehmlich in Afrika und Lateinamerika unterwegs, aber wir forschen nach wie vor auch in Europa. Aktuell arbeiten wir an einer systematischen Untersuchung in mehreren europäischen Ländern, auch in Deutschland. Dabei beobachten wir große Unterschiede in den Profilen von Mikroarbeiter:innen. Bei Mikroarbeiter:innen in Frankreich oder in Deutschland ist die Wahrscheinlichkeit hoch, dass sie einen überdurchschnittlich hohen Bildungsgrad samt Hochschulabschluss haben und diese Tätigkeit als Nebenjob zur Aufbesserung ihres Einkommens machen. Vor allem alleinstehenden Frauen mit Kindern bringt diese Arbeit, die zeitlich flexibel erledigt werden kann, oft ein wichtiges Zusatzeinkommen. Doch selbst in den Fällen, in denen die Mikroarbeit relativ gut bezahlt wird, sagen wir zwischen 70 Cents und ein paar Euro pro Aufgabe, was sich am Ende des Monats auf ein paar Hundert Euro belaufen kann, bildet sie meist nicht die Haupteinnahmequelle.

Die Situation ändert sich radikal mit Blick auf Afrika oder Südamerika. Anders als in Europa hängt hier nicht selten die Existenz der Betroffenen von der Mikroarbeit ab. Zwei Länder aus unserer Forschung können in diesem Zusammenhang als Paradebeispiele dienen, nämlich Venezuela und Madagaskar. Venezuela ist sowohl für spanischsprachige als auch für englischsprachige Länder ein globaler Hub der Mikroarbeit, für Frankreich ist es Madagaskar. In beiden Ländern haben wir mehrere hundert Interviews geführt und tausende Fragebögen verteilt. Für beide Länder gilt, dass die Lebenshaltungskosten im Vergleich zu den Löhnen hoch sind. In Venezuela liegt das tägliche Durchschnittseinkommen zwischen fünf und acht Dollar. Obwohl sie Aufgaben erledigen, die jeweils nur mit ein paar Cent vergütet werden, können Menschen dort ihr Gehalt mit Mikroarbeit verdoppeln – wenn sie denn überhaupt ein anderes Einkommen haben.

In Madagaskar war die Situation, die wir beobachtet haben, etwas besser, unter anderem auch deshalb, weil wir uns auf Unternehmen konzentrierten, die am Markt etabliert waren und ihren Mikroarbeiter:innen bis zu neunzig, manchmal sogar hundert Euro pro Monat bezahlen konnten. Als Monatslohn ist das für europäische Verhältnisse nicht der Rede wert, in Madagaskar ist es jedoch nur etwas weniger als der Durchschnittslohn. Aber auch dort reicht es nicht für ein Leben in der Hauptstadt Antananarivo, wo die Lebenshaltungskosten wie in vielen Hauptstädten deutlich teurer sind. Das darf man nicht vergessen.

Mikroarbeiter:innen in Ländern wie Venezuela oder Madagaskar verdienen also im Vergleich zum nationalen Durchschnitt nicht schlecht. Das heißt aber nicht, dass Mikroarbeit gut bezahlt wird. Es bedeutet vor allem, dass die Lebensbedingungen in etlichen Ländern so prekär sind, dass selbst vergleichsweise geringfügige Summen einen Unterschied machen. Viele KI-Konzerne machen sich diese Situation zunutze.

Wie ist es um die Qualifikation der Mikroarbeiter:innen in diesen Ländern bestellt? Und wie sieht es bei der Geschlechterverteilung aus?

Im Laufe unserer Forschung haben wir herausgefunden, dass es sich bei den Mikroarbeiter:innen in den betreffenden Ländern mehrheitlich um Personen handelt, die tendenziell überqualifiziert sind. Häufig sind es Menschen mit Hochschulabschluss oder sogar mit einem abgeschlossenen Masterstudium. In Madagaskar sind wir unter den Mikroarbeiter:innen sogar einer Person begegnet, die promoviert war. Der dortige Arbeitsmarkt ist stark eingeschränkt, besonders für hochqualifizierte Menschen gibt es nur wenige Stellen und diese auch nur selten zu attraktiven Bedingungen. Daher sind überqualifizierte Personen oft arbeitslos oder unterbeschäftigt und folglich bereit, diese Art von Arbeit zu erledigen.

Außerdem ist in diesen Ländern die Verteilung von Mikroarbeiter:innen nach Geschlecht eine andere. In Ländern, in denen der Zugang zum Arbeitsmarkt schwierig ist, haben Menschen, die für die Verhältnisse des Landes privilegiert sind, einen Vorteil. Man begegnet dort also mehr Männern. In einigen Fällen sind unter Mikroarbeitern 80 Prozent Männer zu 20 Prozent Frauen, während es in Frankreich 56 Prozent Frauen und 44 Prozent Männer sind.

In den Ländern des Südens handelt sich also mehrheitlich um Personen, die im Vergleich zum Bevölkerungsdurchschnitt besser qualifiziert sind, aber im Vergleich zu den Kompetenzen, die sie besitzen, nur wenig verdienen. Dahinter verbirgt sich ein großes Problem. Es ist ein Krisensymptom der liberalen Ideologie und ihres Versprechens vom Aufstieg durch Bildung. Dieses Versprechen verliert immer mehr an Glaubwürdigkeit. Tatsächlich lässt sich mittlerweile in vielen Ländern eine globale Dekorrelation von Bildungsgrad und Gehalt beobachten.

Wie kommt es, dass Mikroarbeit sowohl im globalen Süden als auch in Europa und den Vereinigten Staaten durchgeführt wird? Wäre es aus betriebswirtschaftlichen Gründen für Unternehmen nicht günstiger, diese Art von Arbeit komplett in Niedriglohnländer auszulagern?

Es gibt mehrere Kriterien, die bei der Entscheidung über eine Auslagerung eine Rolle spielen. Manche davon sind kultureller Art. Im Laufe der Entwicklung einer künstlichen Intelligenz müssen viele Arbeitsschritte vollzogen werden. In diesem Zusammenhang müssen beispielsweise auch Sprachaufnahmen interpretiert werden, um die Transkription, Übersetzung oder andere Formen der Verarbeitung von Texten zu überprüfen. Dazu ist es notwendig, dass die Menschen, die diese Arbeit durchführen, ein Gespür für die Sprache und ihre lokalen Besonderheiten haben. Nehmen Sie zum Beispiel nur den deutschsprachigen Raum. Da macht es bereits einen großen Unterschied, ob Menschen Hochdeutsch sprechen oder Schweizerdeutsch, ob sie aus Berlin, Wien oder Zürich kommen. Es braucht in der Entwicklung von KI-Produkten also oft lokale Expert:innen. Deshalb sind Unternehmen auch bereit, mehr zu bezahlen, sobald sie Personen suchen, die in Ländern mit hohem Einkommen leben, wie zum Beispiel in der Schweiz. Sie wollen sichergehen, dass sie Arbeitskräfte rekrutieren, deren Fähigkeiten dem jeweiligen kulturellen Bedarf der Firmen entsprechen.

In anderen Fällen sind für die Entscheidung über eine Auslagerung nicht kulturelle, sondern rechtliche Faktoren ausschlaggebend. Auch Aspekte der Datensicherheit spielen eine wichtige Rolle, denn oft werden bei der Entwicklung einer KI sensible Informationen verarbeitet, die etwa die Sicherheit eines Unternehmens oder eines Landes betreffen. Denken Sie zum Beispiel nur an KI-Systeme, die im Kontext des Gesundheitswesens oder der Landesverteidigung zum Einsatz kommen. Den Unternehmen ist daran gelegen, dass derlei sensible Daten nicht an die Öffentlichkeit gelangen, folglich haben sie ein Interesse daran, Arbeitskräfte zu beschäftigen, die an strikte Vorgaben gebunden sind oder in gesonderten, streng abgeschirmten Bereichen arbeiten.

Diese Anforderungen machen verständlich, warum KI-Unternehmen sich bei der Auswahl ihrer Arbeitskräfte nicht ausschließlich an finanziellen Aspekten orientieren. Einen mindestens ebenso hohen Stellenwert hat der Schutz der Daten. Unabhängig davon, ob die betreffenden Personen in Kalifornien, Europa oder in Madagaskar rekrutiert wurden, konnten wir in allen Ländern, in denen wir unsere teilnehmenden Beobachtungen durchgeführt haben, feststellen, dass bestimmte sicherheitsrelevante Formen von Mikroarbeit nur an besonders geschützten Orten stattfinden, die über eine Gegensprechanlage, eine Kamera, ja manchmal sogar gepanzerte Türen verfügen. Dafür nehmen die Unternehmen auch höhere Kosten in Kauf.

Was können Sie uns über die Arbeitsbedingungen der Menschen sagen? Wie belastend sind die verschiedenen Formen der Mikroarbeit für Psyche und Physis?

Das Risiko psychischer Erkrankungen ist nicht bei allen Arten von Mikroarbeit gleichermaßen hoch. Die am stärksten betroffene Gruppe ist die der Content-Moderator:innen. Das sind Menschen, deren Arbeit darin besteht, Algorithmen so zu trainieren, dass sie bestimmte Online-Inhalte erkennen, filtern und aussortieren beziehungsweise blocken. In der Regel geht es dabei um Darstellungen von Pornografie und Gewalt. Dazu müssen die Content-Moderator:innen jeden Tag Tausende von Bildern mit entsprechenden Inhalten betrachten und diese gemäß ihrer Vorgaben als regel-, beziehungsweise rechtskonform oder nicht einstufen. Diese Inhalte sind oft sehr explizit, sie können Szenen extremer Gewalt zeigen und daher traumatisierend wirken. Diese Arbeit ist in der Tat belastend, sie ist aber nicht repräsentativ für Mikroarbeit in ihrer Gesamtheit.

Eine Sache die sich in unserer Feldforschung je nach Ort als sehr variabel erwiesen hat, ist das Maß an sozialen Kontakten. Wir haben Personen getroffen, die von zu Hause aus in völliger Isolation arbeiten, ebenso wie Menschen, die in einem Büro sitzen und die Art von Geselligkeit pflegen, die zwischen Kolleg:innen üblich ist. Und wir haben mit Personen zu tun gehabt, die zwar von zu Hause aus arbeiten, denen es aber gelingt, dabei soziale Ressourcen zu mobilisieren.

Ein Beispiel dafür sind Mikroarbeiter:innen in Venezuela, von denen einige ihre gesamte Familie einbezogen, und zwar nicht nur die Kinder, sondern auch die Großeltern. Diese Familien arbeiteten nach einem vorher festgelegten Zeitplan. Erledigte beispielsweise erst der Vater zu bestimmten Zeiten einige Aufgaben, so übernahmen anschließend die Tochter und schließlich die Großmutter. In diesen Fällen ließ sich tatsächlich ein Geflecht von sozialen Beziehungen beobachten, die um diese Arbeit herum entstanden sind; und die es den Unternehmen ermöglichten, nicht nur von der Arbeit einer Person zu profitieren, die ohnehin sehr schlecht bezahlt wird, sondern gleich von drei Personen.

In einem Punkt jedoch stimmen alle Mikroarbeiter:innen, die wir interviewt haben, überein, im globalen Norden ebenso wie im globalen Süden, nämlich in der Unzufriedenheit mit ihren Arbeitsbedingungen und insbesondere mit ihrer Bezahlung. Sie besitzen ein zunehmend ausgeprägtes Bewusstsein dafür, dass ihre Arbeit eine qualitativ anspruchsvolle Arbeit ist, die darüber hinaus einen erheblichen Mehrwert für die Unternehmen generiert. In den meisten Fällen sind sie sich des Umstands bewusst, dass sie mit ihrer Arbeit zur Herstellung von Produkten beitragen, die, wenn man so will, zur Speerspitze der Tech-Industrie gehören. Schließlich ist KI in aller Munde, und sie sind involviert in die Entwicklung jener KI-Systeme, über die jeder spricht und die jeder haben und kaufen will. Gemessen an ihrem Beitrag im Produktionsprozess fallen ihre Vergütungen sehr gering aus.

Und in welcher Hinsicht unterscheiden sich die Erfahrungen von Mikroarbeiter:innen?

Ein wichtiger Punkt, an dem sich nicht nur, wie man so sagt, die Geister, sondern in diesem Fall auch die Geschlechter scheiden, betrifft die Einschätzung der eigenen Karriereaussichten. Frauen, die Mikroarbeit ausführen, blicken sehr viel pessimistischer in die Zukunft als Männer. Das geht auch aus anderen Studien hervor, die wir durchgeführt haben. Männer können sich zudem öfter vorstellen, auch in Zukunft Mikroarbeit auszuüben. Oder sie betrachten diese Arbeit als Teil einer Übergangsphase, die ihnen dazu dient, einen Beruf zu erlernen, den sie später ausüben werden. Auch wenn ein solcher Optimismus insgesamt eher selten vorkommt, ist er bei Männern häufiger anzutreffen als bei Frauen.

Viele Frauen sehen Mikroarbeit hingegen vor allem als Notbehelf, eine vorübergehende Tätigkeit zur Überbrückung einer schwierigen Situation, die ein Zusatzeinkommen erforderlich macht. Darüber hinaus haben viele Frauen ein ausgeprägtes Bewusstsein davon, dass sie Diskriminierungen ausgesetzt sind. Diese sind zumeist eher indirekter Art: Mikroarbeitsplattformen bieten Frauen nicht vorsätzlich Arbeit zu schlechteren Bedingungen an. Viele von ihnen vergeben Aufträge aber nach einem Punktesystem, das besonders leistungsfähige Mikroarbeiter:innen belohnt. Frauen mit Kindern, die nur gelegentlich Mikroarbeits-Aufträge annehmen oder dieser Arbeit nur für ein paar Stunden pro Woche nachgehen, schaffen es dann zumeist nicht, ihren Punktestand auf der Plattform so zu steigern, wie es nötig wäre, um zukünftig bessere Aufträge zu bekommen, also einfachere Aufgaben, die besser entlohnt sind und vor allem von Anbietern, die dann auch tatsächlich bezahlen. Auf diesen Plattformen gibt es leider viele zwielichtige Firmen, die den Arbeiter:innen ihren Lohn schuldig bleiben und deren rechtliche Wehrlosigkeit ausnutzen. Gegenwärtig deutet nichts darauf hin, dass sich an dieser Situation in absehbarer Zeit etwas ändert.

Sie erwähnten eben ein Punktesystem. Was muss man sich darunter vorstellen?

Es gibt unterschiedliche Systeme, aber in etwa funktioniert das Ganze so: Ein Unternehmen sucht Arbeitskräfte zur Erledigung bestimmter Aufgaben, etwa zur Sortierung von Bildern nach bestimmten Kriterien. Auf einer Vermittlungsplattform veröffentlicht das Unternehmen entsprechende Anzeigen. Nehmen wir an, auf diese Anzeigen reagieren 10.000 Menschen, die sodann die Aufgaben abarbeiten. Je nach ihrer Schnelligkeit und der Qualität ihrer Arbeit erhalten die Personen nicht nur ihren Lohn, sondern auch Punkte. Manchmal werden diese Punkte auch direkt von der betreffenden Plattform verteilt. In diesen Fällen werden häufig auch noch weitere Aspekte berücksichtigt. So können Mikroarbeiter:innen etwa zusätzliche Punkte erhalten, wenn sie als besonders verlässlich gelten, also über längere Zeit auf der Plattform bleiben, oder wenn sie anspruchsvollere und besser bezahlte Aufgaben zufriedenstellend erledigt haben.

Manchmal werden Punkte auch direkt vom Kunden vergeben. Das ist in der Regel bei komplexeren Aufgaben der Fall. Wenn dem Unternehmen die Arbeit einer bestimmten Person gefallen hat, kann es ihr eine gute Note geben, wie es zum Beispiel bei Uber oder Deliveroo üblich ist. Für die Mikroarbeiter:innen ist das Punktesystem eine ambivalente Angelegenheit. Einerseits haben sie die Möglichkeit, ihren Verdienst durch gute Arbeit und entsprechende Bewertungen zu verbessern, andererseits sind sie auf das Wohlwollen ihrer Kund:innen angewiesen, was Kritik erschwert.

Auf welchen Plattformen begegnet man solchen Bewertungssystemen? Und wie hängen sie mit den geltenden Lohnmodellen zusammen?

Besonders verbreitet sind Bewertungssysteme auf den Plattformen, auf denen die Aufgaben tatsächlich durchgeführt werden. Aber auch auf Rekrutierungsplattformen gibt es Punktesysteme. Dort kann man etwa Punkte anhäufen, wenn man besonders viele kleine Aufgaben übernommen hat.

Außerdem gibt es, wie bereits erwähnt, etliche Subunternehmen, die gezielt Arbeitskräfte für bestimmte Mikroaufgaben vermitteln und ihre Dienste auf eigenen Plattformen anbieten. Auch da gibt es verschiedene Entlohnungsmodelle: In manchen Fällen werden unterschiedliche Aufgaben nach entsprechenden Tarifen bezahlt, in anderen Fällen erhalten die Arbeiter:innen festgelegte Stunden-, Tages- oder Monatslöhne. Die Vertragskonstruktionen sind dabei mitunter dubios und nicht selten zum Nachteil der Arbeiter:innen. So sind die vertraglich garantierten Löhne oft inkongruent und extrem niedrig. Ein nicht unerheblicher Teil des Lohns besteht aus leistungsabhängigen Bonuszahlungen für gut ausgeführte Arbeit, einen hohen Punktestand oder die Anzahl an erledigten Aufgaben. Diese Bonuszahlungen muss man sich gewissermaßen jedes Mal extra dazu verdienen, man kann sich ihrer nicht sicher sein.

Wie und wo findet die Vermittlung zwischen Unternehmen und Arbeiter:innen statt?

Bei unserem ersten Feldforschungsprojekt 2019 untersuchten wir Amazons Plattform Mechanical Turk. Noch während unserer Arbeit merkten wir, dass es sich dabei keineswegs um das einzige Modell zur Vermittlung von Mikroarbeit handelte. Amazons Mechanical Turk war damals recht einfach gebaut und funktionierte gewissermaßen wie ein Schwarzes Brett: Unternehmen, die bestimmte Arbeitsaufträge zu vergeben hatten, konnten diese auf der Plattform ausschreiben, und Interessierte konnten sich dann eigenständig auf diese Ausschreibungen bewerben. Dieses Modell beruhte auf einer einfachen Vermittlungsinstanz, nämlich der Plattform, die zwischen Kunden und Anbietern, also Unternehmern und Arbeitern vermittelt.

Inzwischen sind die Verhältnisse komplexer geworden und wir können eine Situation beobachten, die man als deep labor bezeichnen kann – ein Geflecht von verschiedenen Plattformen, Unternehmen, Subunternehmen und Freelancern.

Anders als noch vor wenigen Jahren ist es heute oft extrem kompliziert, die mitunter verschachtelten rechtlichen Beziehungen nachzuvollziehen und zu entwirren. Eine Person, die für Microsoft an der Entwicklung eines Sprachassistenten gearbeitet hat und die wir im Laufe des erwähnten Forschungsprojekts interviewten, gab uns einen Einblick in das Prozedere. Demnach kontaktierte Microsoft zunächst eine chinesische Plattform, um Mikroarbeiter:innen zu rekrutieren. Die chinesische Plattform wandte sich daraufhin an eine japanische Personalvermittlungsplattform. Diese beauftragte sodann ihren Subunternehmer in Spanien, der wiederum Verträge mit Mikroarbeiter:innen in Frankreich abgeschlossen hatte. Sie merken schon, es ist eine Reise um die Welt. Zudem waren in diesem Fall mindestens fünf Plattformen am Vermittlungsprozess beteiligt. Manche Plattformen sind einfach nur dazu da, um die Vermittlung zu gewährleisten, während sich andere vor allem um die Rekrutierung kümmern. Wieder andere Plattformen kümmern sich um die Abwicklung der Bezahlung. Und dann gibt es ja noch die Plattformen, auf denen die Aufgaben tatsächlich erledigt werden.

Lassen sich in diesem undurchsichtigen Geflecht trotzdem bestimmte Entwicklungen erkennen?

Wir beobachten heute eine Vervielfachung der Plattformen, eine Vervielfachung der Ebenen, die es immer schwieriger macht, den gesamten Prozess nachzuvollziehen und sowohl Zuständigkeiten als auch Verantwortlichkeiten zuzuordnen. Als Forscher:innen müssen wir dieses Feld erstmal erkunden und mit den Beteiligten sprechen, was zumeist bedeutet, die Arbeiter:innen direkt zu interviewen. Anschließend versuchen wir dann, die Kette der Vertragsbeziehungen und Beschäftigungsverhältnisse zurückzuverfolgen, um den heutigen Mikroarbeitsmarkt zu verstehen, der ja in jüngster Zeit regelrecht explodiert ist. Die Forschung in diesem Bereich gestaltet sich heute viel schwieriger als noch vor zehn oder fünfzehn Jahren. Damals gab es, grob gesagt, neben Amazons Mechanical Turk nur noch zwei oder drei weitere Plattformen, die man sich anschauen musste. Hatte man seine Daten erhoben, verfügte man damit bereits über eine solide Forschungsgrundlage. Heute gibt es ungleich mehr Plattformen und Menschen, die über sie arbeiten oder Arbeit suchen. Das ist auch eine Folge der Pandemie und der darauffolgenden Wirtschaftskrise.

Der Anstieg hat aber auch strukturelle Gründe, die in direktem Zusammenhang mit dem Hype um KI stehen. Schließlich haben wir es bei der Mikroarbeit mit einer Tätigkeit zu tun, für die kein Ende in Sicht ist, weil sich KI-Systeme, im Gegensatz zu den Versprechungen der Tech-Industrie, nun einmal nicht selbst trainieren und überprüfen können. Aus diesem Grund wird Mikroarbeit in Zukunft auch nicht überflüssig werden, sondern immer gefragter sein. Je weiter der Einsatz künstliche Intelligenz voranschreitet, desto größer wird der Bedarf an menschlicher Arbeit.

Welche Faktoren spielen bei der Formalisierung der Arbeitsverhältnisse eine Rolle?

Formalisierte Arbeitsverhältnisse sind meist an bestimmten Anforderungen gebunden. Dabei kann es sich, wie bereits erwähnt, um bestimmte Sprachkenntnisse oder andere relevante Fähigkeiten seitens der Mikroarbeiter:innen handeln oder um besondere Voraussetzungen seitens der Unternehmen, wie erhöhte Geheimhaltungsstufen oder verschärfte Sicherheitsanforderungen. Auch besonders hohe Ansprüche an die Qualität der verlangten Arbeit können ein Beweggrund sein. Firmen setzen insbesondere dann auf vertraglich geregelte Arbeitsverhältnisse, wenn sie an Planungssicherheit interessiert sind und sicherstellen wollen, dass die benötigten Arbeitskräfte nicht von einem Tag auf den anderen weg sind. Da dies auf Plattformen wie Amazons Mechanical Turk schwierig ist, gibt es mittlerweile mehrere Plattformen, die versuchen, ein stabiles Kontingent an Arbeitskräften zu beschäftigen.

Ich kann Ihnen zwei Beispiele solcher Plattformen nennen, die heute zu den größten der Welt zählen, wenn sie nicht sogar die zwei größten sind. Die erste heißt Appen und befindet sich in australischem Besitz, die andere, TELUS, ist eine internationale Holdinggesellschaft mit Sitz in Kanada. Beide haben jeweils mehrere Millionen Nutzer:innen und auch mehrere Millionen Arbeiter:innen. Um in den Pool der Arbeitskräfte aufgenommen zu werden, müssen Bewerber:innen verschiedene Stadien durchlaufen, wie bei einem klassischen Unternehmen. Das gilt übrigens auch umgekehrt. Auch Unternehmen, die Arbeitskräfte für bestimmte Aufgaben rekrutieren möchten, können diese Aufgaben nicht einfach ausschreiben, wie bei Amazons Mechanical Turk, sondern müssen einen Auswahlprozess durchlaufen.

Bei den Mikroarbeiter:innen erfolgt die Auswahl durch ein Zertifizierungssystem, in dessen Rahmen sie auch Prüfungen ablegen müssen. Ich selbst habe an einigen solcher Prüfungen teilgenommen. Einige sind sehr einfach. Manchmal stößt man jedoch auf Plattformen, die den Bewerber:innen besonders anspruchsvolle Fragen stellen, ihnen nach erfolgter Anstellung aber trotzdem nur sehr wenig Geld bezahlen. Mithilfe der Zertifizierungssysteme organisieren die Plattformbetreiber die Knappheit der Arbeitskraft und der Arbeitsmöglichkeiten. Auf diese Weise gelingt es ihnen, Arbeitnehmer:innen an sich zu binden, ohne ein klassisches Lohnarbeitsverhältnis eingehen zu müssen.

Wie sieht es mit Blick auf die Selbstorganisation der Klickarbeiter:innen aus? Welche Entwicklungen gab es in den letzten Jahren?

Es gab Entwicklungen, die nach meinem Eindruck einen graduellen Prozess darstellen. Dabei muss man bedenken, dass digital labor neben der bisher thematisierten Mikroarbeit noch zwei weitere Formen umfasst: einerseits die „uberisierte“ Arbeit der Zusteller, also der Leute, die im Transportwesen und in der Logistik arbeiten; andererseits die unbezahlte Mikroarbeit der Nutzer:innen, die – oft ohne ihr Wissen – ebenfalls dazu beitragen, die Funktionalität von KI-Systemen zu verbessern.

Besonders sichtbar und auch erfolgreich waren in den letzten Jahren die Kämpfe der Zusteller:innen, Lieferfahrer:innen und der Logistikarbeiter:innen, nicht zuletzt dank der begleitenden Arbeit von Gesetzgebern auf der ganzen Welt. Für die Klickarbeiter:innen ist es hingegen viel schwieriger, sich zu organisieren, um ihre Rechte zu verteidigen, und zwar aus zwei Gründen. Zum einen wegen der großen räumlichen Entfernungen, die eine effektive Selbstorganisation zur Verteidigung der eigenen Interessen und Rechte erschwert, und zum anderen wegen der öffentlichen Unsichtbarkeit der meist von zu Hause aus arbeitenden Mikroarbeiter:innen. Anders als bei den Lieferfahrer:innen begegnen wir ihnen nicht auf der Straße und haben keine Vorstellung von ihren Arbeitsbedingungen. Und sie selbst können diese oft nicht publik machen, da ihnen durch Vertraulichkeitsklauseln die Hände gebunden sind.

Trotzdem gerät gegenwärtig auch hier einiges in Bewegung. So erleben wir eine Art Fortsetzung der Kämpfe, die sich bereits Mitte der 2010er-Jahre abgezeichnet hatten. Es werden Sammelklagen eingereicht, um den Arbeitnehmerstatus dieser Arbeiter anerkennen zu lassen. Ein in Frankreich recht prominenter Fall betrifft das Unternehmen Click and Walk, das über 200.000, nach eigenen Angaben sogar über 700.000 Mikroarbeiter:innen beschäftigte. Ein französisches Gericht hat entschieden, dass all diese Leute als Angestellte gemeldet werden müssen. Das war eine wichtige Entscheidung, die aber inzwischen von der Strafkammer des Pariser Kassationsgerichtshofs widerrufen wurde.

Wie sieht die Lage in anderen Ländern aus?

In manchen anderen Ländern laufen die Dinge ein wenig besser. In denke etwa an Brasilien. Dort hat im September 2023 ein Arbeitsgericht im Bundesstaat São Paulo geurteilt, dass Uber seine Fahrer:innen sozialversicherungspflichtig beschäftigen, sie also in ein reguläres Angestelltenverhältnis übernehmen muss.^[4] Auch wenn das Urteil noch nicht rechtskräftig ist und Uber Rechtsmittel gegen das Urteil eingelegt hat, war das durchaus eine historische Entscheidung.

Diese Erfolge machen Mut, bedeuten aber noch keinen Durchbruch. Generell kann man sagen, dass Mikroarbeiter:innen die Verteidigung ihrer Rechte und die Verbesserung ihres Status nur auf dem Rechtsweg möglich scheint. Gerichte sind gegenwärtig der einzige Ort, an dem sie tatsächlich gesehen und gehört werden. Demonstrationen als Mittel zur Mobilisierung öffentlicher Unterstützung scheinen wenig aussichtsreich, da die meisten Leute nicht verstehen würden, was der Beruf der Protestierenden ist und was ihre Probleme sind. Wenn Sie 400 Lieferfahrer:innen mit ihren Boxen und Fahrrädern sehen, verstehen Sie sehr schnell, wer diese Leute sind und worum es ihnen geht. Wenn Sie 700 oder 7000 Mikroarbeiter:innen vorbeilaufen sehen, ist das ungleich schwieriger. Bislang fehlt Mikroarbeiter:innen in jeder Hinsicht soziale Anerkennung. Es wird Zeit, dass sich das ändert.