Es ist nicht übertrieben zu sagen, dass jedes Technologieunternehmen und seine Mutter Chatbots auf den Markt gebracht haben, die auf generativen Methoden basieren künstliche Intelligenz dieses Jahr. Nehmen Sie zum Beispiel Bard von google, Claude von Anthropic, Copilot von Microsoft und natürlich chatgpt von OpenAI. Diese Chatbots basieren auf unglaublich leistungsstarken Large Language Models (LLM) und haben sich in der kurzen Zeit, in der sie der Öffentlichkeit zugänglich gemacht wurden, enorm verbessert.

Diese schnelle Verfeinerung verdeutlicht die Leistungsfähigkeit von LLMs und generativer KI – sie ist aber auch ein Beweis für die Arbeit von Hunderttausenden Gig-Workern hinter den Kulissen. Diese Menschen erledigen eine wenig bekannte Aufgabe namens Datenannotation, bei der es darum geht, die Eingaben und Ausgaben von KI-Modellen zu bewerten und zu beschreiben, um dem Chatbot beim „Lernen“ zu helfen. Diese Aufgaben könnten das Lesen und Einordnen von KI-generierten Gedichten oder das Beschriften des Textes einer Speisekarte mit den Wörtern umfassen, die Lebensmitteln, Getränken und Preisen entsprechen.

Historisch gesehen haben Unternehmen dies getan exportierte diese Arbeitskräfte nach Übersee und bezahlte den Arbeitern ein paar Cent. Aber in letzter Zeit haben sie die Datenannotationsarbeit an eine andere und unerwartete Bevölkerungsgruppe ausgelagert – und das könnte zu unvorhergesehenen und sogar gefährlichen Konsequenzen führen.

Zunächst müssen Sie den Gen-Z-Slang kennen: Mädchen sind junge Online-Nutzer, die sich hauptsächlich als Frauen identifizieren – und Jackie Mitchell gehört definitiv zu den Girlies. Während sie sich per Videoanruf mit The Daily Beast unterhält, trägt sie eine makellose tiefrote Maniküre, die zu ihrem kastanienbraunen Haar passt, wobei zwei lose Strähnen ihr Gesicht geschmackvoll umrahmen. Sie trägt einen ärmellosen, cremefarbenen Rollkragenpullover und baumelnde Perlenohrringe – mit anderen Worten: Sie sieht aus wie das Gegenteil einer Person, von der man annehmen würde, dass sie KI-Chatbots trainiert.

„Ich hatte wirklich nie damit gerechnet, so etwas zu machen, aber ich mag Nebenbeschäftigungen wirklich“, sagte Mitchell gegenüber The Daily Beast.

Als sie Studentin war, wollte sie ein wenig Geld, um Date-Nächte zu bezahlen, aber da die Schule ihre Freizeit einschränkte, hatte sie nicht viele Möglichkeiten für „traditionelle“ Jobs. Also wandte sie sich der Remote-Arbeit auf Abruf zu, die sie in ihrer Freizeit erledigen konnte, um zusätzliches Geld zu verdienen. Sie begann, gegen Bezahlung an kurzen 10-minütigen Umfragen teilzunehmen. Bei einer dieser Umfragen handelte es sich um ein Datenannotationsprojekt mit einer Nachricht am Ende, die für die Arbeit auf einer Website namens Data Annotation Tech wirbt.

Das war vor zwei Jahren. Mittlerweile hat sie ihren Abschluss gemacht und einen Vollzeitjob bei einer gemeinnützigen Organisation gefunden – aber sie schafft es immer noch, als eine von vielen Nebenbeschäftigungen in der Datenannotation zu arbeiten. In letzter Zeit versucht sie, 100 Tage lang zusätzlich 100 Dollar pro Tag zu verdienen, um die Anzahlung für ihr erstes Haus bezahlen zu können. Da Mitchell Vollzeit arbeitet, hat sie ihre Arbeit an Remote-Auftritten verdoppelt, um ihre täglichen Anforderungen zu erfüllen.

Im September begann Mitchell, auf TikTok Videos zu „Tagen im Leben“ zu posten, in denen sie ihre Nebenbeschäftigungen beschrieb – einschließlich Datenanmerkungen.

Obwohl sie die Website, die sie nutzt, nicht namentlich erwähnt, tauchen Datenanmerkungen in Dutzenden von Mitchells Videos in der Serie auf – darunter auch ein Beitrag Das wurde mehr als 4,4 Millionen Mal angesehen. Dutzende Benutzer haben diese Videos kommentiert und erklärt, sie hätten sich für die Datenanmerkung angemeldet oder Fragen zur Arbeit gestellt. Mittlerweile gibt es Videos mit dem Hashtag #dataannotation (die Mitchell nicht nutzt) haben weitere 4,6 Millionen Aufrufe auf TikTok.

Brin, ein weiterer YouTuber auf der Plattform, sagte, dass der sogenannte „Jackie-Mitchell-Effekt“ tatsächlich real sei: Eines von Mitchells Videos tauchte auf Brins „Für Sie“-Seite auf und inspirierte sie zu einer unbezahlten Bewertung durch Data Annotation Tech.

„Ich habe es mir angesehen und dachte: ‚Verdammt ja‘“, sagte Brin, deren Nachname aus Datenschutzgründen weggelassen wurde, gegenüber The Daily Beast. „Sie tut, was sie tun muss, um etwas zu bewirken – das möchte ich tun. Und ich glaube, ich bin fünf Minuten nach dem Anschauen des Videos mit der Beurteilung begonnen.“

Mitchell und Brin haben Vertraulichkeitsvereinbarungen mit Data Annotation Tech unterzeichnet, sodass sie keine der Chatbots oder Projekte offenlegen können, an deren Schulung sie im Wesentlichen beteiligt waren. Aber sie arbeiten mit einigen der größten Namen in der generativen KI zusammen: Data Annotation Tech scheinen im Besitz zu sein von derselben Firma namens Surge AI, zu deren Kunden OpenAI, Google, Microsoft, Meta und Anthropic gehören.

Das heißt, wenn Sie im letzten Jahr ChatGPT, Bard oder Bing verwendet haben, um Ihre Aufsätze zu schreiben, Fragen zu beantworten oder sogar Witze zu machen, haben Sie wahrscheinlich mit einem Bot gechattet, der von einer kleinen Armee trainiert wurde von TikTok-Girlies.

Wir tun es für die Mädchen

Mitchell sagte, dass sie hauptsächlich Projekte abschließt, bei denen sie die Antworten eines Chatbots schreibt, bearbeitet oder auf Fakten überprüft. Möglicherweise muss sie zwei von einem Chatbot geschriebene Gedichte vergleichen, um herauszufinden, welches der beiden am besten auf eine bestimmte Frage antwortet, oder sie muss eine Antwort über die besten Fischrestaurants in Maryland entgegennehmen und sicherstellen, dass der Bot nicht „halluziniert“ oder Teile davon erfunden hat seine Antwort oder ungenaue Aussagen machen.

Es gibt auch andere Arten von Projekten auf der Website, bei denen Fähigkeiten wie Computerprogrammierung und Sprachübersetzung erforderlich sind. Theoretisch können die Bots aus menschlichen Datenanmerkungen lernen und Antworten erstellen, die genauer, hilfreicher und sicherer sind.

In der Praxis kann sich die Datenanmerkung routinemäßig und eintönig anfühlen, sagte Brin. „Es ist nichts besonders Erfüllendes oder wirklich Kompliziertes. Es geht einfach darum, seine Zeit gegen Geld einzutauschen – und manchmal braucht man das.“

Im krassen Gegensatz zu Berichten über Datenanmerkungsarbeiter, die Daten erstellen zwischen 1 und 3 US-Dollar pro Stunde, sagten beide Frauen, dass das Geld – zumindest für sie – ziemlich gut gewesen sei. Mitchells Stundenlohn ist seit ihrem Beginn gestiegen, von etwa 17,50 Dollar pro Stunde vor zwei Jahren auf jetzt 20 bis 30 Dollar pro Stunde. Brin sagte, sie habe seit ihrer Anmeldung auf der Website vor einigen Monaten insgesamt etwa 1.000 US-Dollar verdient.

Es ist auch kein Zufall, dass es sich bei beiden um junge Frauen handelt. Laut Mitchell machen mehr als 80 Prozent ihres Publikums auf TikTok Frauen aus – ein großer Teil davon ist 18 bis 35 Jahre alt.

„TikTok hat mir wirklich deutlich gemacht, dass meine Inhalte für Mädchen gedacht sind, und ich bin damit einverstanden“, sagte Mitchell. „Ich bin in jeder Hinsicht ein Mädchen. Ich mache das für die Mädchen.“

Das Gleiche gilt für Brin. Ihre Zuschauer seien zu 95 Prozent weiblich und zu „5 Prozent gruselige Männer“. Sie spekulierte, dass die Datenannotationsarbeit für alleinerziehende Mütter oder junge Frauen mit unvorhersehbaren Zeitplänen, die auf der Suche nach einem zusätzlichen Einkommen sind, interessant sein könnte. Den Beiträgen in den sozialen Medien nach zu urteilen, ist das Training von KI-Chatbots für diese Bevölkerungsgruppe nur eine weitere Nebenbeschäftigung.

Aber es ist möglicherweise instabil. Experten sagten gegenüber The Daily Beast, dass eine einzelne Bevölkerungsgruppe, die die Gig-Arbeit im Bereich Datenannotation übernimmt, zu dauerhaften Veränderungen an KI-Modellen führen könnte. Es besteht auch die eindeutige Möglichkeit, dass es diese Art von Arbeit nicht mehr lange geben wird – Verschiebungen bei Angebot und Nachfrage könnten die Löhne der Arbeitnehmer senken oder sogar den Menschen ganz aus der Gleichung streichen.

Die Girlies hinter dem Vorhang

Die Art der Datenanmerkung, die Mitchell und Brin durchführen, erfordert spezielle Fähigkeiten im kreativen Schreiben und Bearbeiten, aber nicht alle Formen der Datenanmerkung tun dies. Einige, wie die Klassifizierung von Objekten als Fahrer, Radfahrer oder Fußgänger, um die Ausbildung selbstfahrender Autos zu unterstützen, könnten weitaus weniger kosten.

Im Juni, Der Rand Und New York Zeitschrift berichteten, dass eine Unterschicht von Arbeitern, häufig in Entwicklungsländern, für Datenanmerkungsarbeiten weniger als 5 US-Dollar pro Stunde erhält. A Papier 2022 von drei Google-Forschern befragten Dutzende von Datenannotatoren und Branchenexperten und kamen zu dem Schluss, dass der Bereich unter „weithin akzeptierten, aber fragwürdigen Branchenpraktiken“ leide.

Die Autoren fügten hinzu, dass „ein Spannungsverhältnis zwischen dem Bedarf an qualitativ hochwertigen Daten zu geringen Kosten und dem Streben der Kommentatoren nach Wohlbefinden, Karriereperspektive und aktiver Beteiligung an der Verwirklichung des KI-Traums“ bestehe.

Im Gegensatz dazu ist die akademische Forschung häufig auf die Annotation von Daten in kleinem Maßstab und hoher Qualität angewiesen – und die Ausbildung eines wissenschaftlichen Mitarbeiters für die Annotation kann zeitintensiv und kostspielig sein, heißt es Nick Kissing, ein Doktorand der Politikwissenschaften an der University of Pennsylvania. Pangakis erforscht, wie LLMs – wie diejenigen, die ChatGPT und andere Chatbots antreiben – Fragen in den Sozialwissenschaften beantworten können.

„Es gibt eine Menge Training und deshalb ist es so teuer“, sagte er gegenüber The Daily Beast. Und die bloße Bezahlung der Datenannotation garantiert nicht deren Qualität. „Was soll verhindern, dass die Leute sagen: ‚Ich bekomme 20 Dollar pro Stunde, ich klicke mich einfach durch‘?“ Das ist ein großes Problem in der Umfrageforschung.“

Der Trend, dass junge weiße Frauen sich nebenberuflich mit der Datenannotation befassen, könnte sich auch auf KI-Modelle auf eine Weise auswirken, die uns noch nicht einmal bewusst ist. Das Training von KI-Modellen ist ein Gebiet, das so neu ist, dass die Forschung immer noch aufholt. Es ist jedoch bekannt, dass die Abhängigkeit von einer einzelnen Bevölkerungsgruppe für Trainer das Potenzial hat, die Ergebnisse eines Modells zu verzerren – ähnlich wie medizinische KI-Modelle, die auf Daten von Patienten einer Rasse trainiert wurden, möglicherweise schlecht abschneiden, wenn sie auf alle Rassen angewendet werden.

„Wenn es nur Frauen auf TikTok sind, die es tun [data annotation]„Dann wird es bestimmte Vorurteile geben“, sagte Pangakis.

Wäre es angesichts dieser sehr menschlichen Probleme bei der Annotation sinnvoll, den Job zu automatisieren? Pangakis sagte, dass einige in diesem Bereich den Menschen ganz aus der Gleichung herausnehmen wollen, warnt aber davor, zumindest vorerst. Die Annotation den Bots zu überlassen ist zwar kostengünstiger und schneller, macht die Modelle aber anfällig für verstärkende Fehler und schlechte Gewohnheiten.

„Wir wissen nicht unbedingt, ob es gut funktioniert, und das ist irgendwie gefährlich, weil man zu voreingenommenen Ergebnissen und irreführenden Schlussfolgerungen kommen kann, ohne es überhaupt zu wissen“, sagte er. Ebenso besorgniserregend: Remote-, unbeaufsichtigte Datenannotatoren könnten Chatbots verwenden, um Aufgaben schneller zu erledigen.

Der Verhaltenskodex von Data Annotation Tech verbietet Mitarbeitern ausdrücklich die Verwendung von KI-Tools wie ChatGPT, um Projekte auf den Plattformen abzuschließen. Doch ohne eine Möglichkeit, dieses Verhalten zu erkennen, ist ein Ehrenkodex genau das. Es gibt keine Möglichkeit, sie tatsächlich vom Einsatz von KI abzuhalten.

Trotzdem sagte Mitchell, dass sie in gutem Glauben an der Kommentierungsarbeit arbeite – obwohl sie nicht vorhabe, noch lange damit fortzufahren. Da sie inmitten verschiedener Boom- und Pleitezyklen in den sozialen Medien aufgewachsen ist, hat sie erkannt, dass es klug ist, nicht alles auf eine Karte zu setzen.

„Ich würde nicht damit rechnen, dass die Datenannotation etwas Langfristiges ist, genauso wie jeder Nebenjob, den ich mache, nicht langfristig ist“, sagte Mitchell.

Auch wenn einige sich neuen Nebenbeschäftigungen widmen, haben die TikTok-Girlies einen unauslöschlichen Eindruck bei KI-Chatbots hinterlassen. Wer könnte also besser nach den Aussichten der künstlichen allgemeinen Intelligenz fragen – ein Begriff, der KI-Modelle beschreibt, die genauso gut oder sogar besser funktionieren können als der menschliche Geist – als die Mädchen, die sich jeden Tag stundenlang mit Bots beschäftigen?

Trotz aller berechtigten und unberechtigten Befürchtungen im Zusammenhang mit der aufkommenden Technologie ist Mitchell ihrerseits nicht besorgt darüber, dass KI die menschliche Kreativität übertreffen wird. Keine der KI-generierten Antworten, kreativen Texte oder Gedichte, die sie gesehen hat, kam der Realität auch nur annähernd nahe. Es wird immer einen Platz für Menschen geben – sei es beim Schreiben, beim Schaffen von Kunst oder beim Verdienen von ein paar Dollar mehr mit deinen Mädels auf TikTok.

„Es gibt keine Möglichkeit, die menschliche Erfahrung zu reproduzieren“, sagte sie.