Als OpenAI Mit der Einführung seines Videogenerationsmodells Sora betritt das Unternehmen Neuland und sieht sich mit einem Vorwurf konfrontiert, der es seit Jahren verfolgt. Werbeagentur McKinney ist hinter Sind Sie schwärzer als chatgpt?ein einfaches browserbasiertes Quizspiel, das rassistische blinde Flecken aufdeckt ChatGPT's Ausbildung.

Jede Runde von Sind Sie schwärzer als ChatGPT? Enthält fünf Fragen aus einem größeren, von McKinney erstellten Satz. Die Fragen scheinen etwas subjektiv zu sein, die Antworten sind es dem Spiel zufolge jedoch nicht. Als ich das erste Mal gespielt habe, habe ich nur zwei von fünf Antworten richtig beantwortet, aber ChatGPT hat auch bei drei Fragen geantwortet. Ich schätze also, dass ich genauso schwarz bin wie ChatGPT, was für OpenAI ein kleines Problem zu sein scheint.

Ein Haftungsausschluss zum Sind Sie schwärzer als ChatGPT? Die Zielseite erinnert Besucher daran, dass „das Spiel, das Sie spielen möchten, nur der Unterhaltung dient“. McKinneys Experiment könnte die gleiche Respektlosigkeit und die gleichen klugen Scherze haben wie eine Fortsetzung von Samstagabend Live'S Schwarze Gefahr, aber hinter all der Albernheit verbirgt sich eine wichtige Botschaft. Schwarze Künstler haben gesprochen über Rassenvoreingenommenheit in der KI und Sind Sie schwärzer als ChatGPT? ist der jüngste Beweis für diesen besorgniserregenden Trend.

Rassenvoreingenommenheit in der KI nimmt mehrere Formen an. Die Datensätze, die zum Trainieren von Systemen wie ChatGPT verwendet werden, können den Rassismus in unserer Gesellschaft widerspiegeln, der zu Situationen führt, in denen Diskriminierung „in den Ergebnissen verankert ist, die die KI vorhersagen soll“, so die Aussage die ACLU

. KI hat auch Schwierigkeiten, schwarze Gesichter zu identifizieren, und der Mangel an Diversität in der Technologiebranche macht es schwieriger, Probleme wie diese anzugehen.

OpenAI wurde dafür kritisiert Mangel an Diversität im Vorstand und die rassistische Voreingenommenheit seiner Technologien, einschließlich des Bildgenerators GIB IHR. „Voreingenommenheit ist ein wichtiges branchenweites Problem“, sagte ein OpenAI-Sprecher erzählte dem New York Times letztes Jahr. Einige Monate später wurden Dokumente von OpenAI veröffentlicht zeigten, dass DALL-E habe „eine Tendenz zu einer westlichen Sichtweise“ und produziert Bilder, die „überproportional Personen darstellen, die weiß, weiblich und jugendlich erscheinen“.

Texter Meghan Woodsder mitgestaltet hat Sind Sie schwärzer als ChatGPT? bei McKinney fügte eine weitere Theorie hinzu, die rassistische blinde Flecken in der KI erklären könnte. Wie sie erzählte TechCrunchViele Teile des kulturellen Wissens der Schwarzen werden persönlich weitergegeben und könnten daher in den Trainingsdaten von ChatGPT fehlen. „Die blinden Flecken können ziemlich ärgerlich sein“ sagte Woods. „Es ist ziemlich gefährlich.“

Woods nannte „Einstellung, Bindung“ und „Sicherstellen, dass Menschen im Raum am Tisch sitzen“ als drei Bereiche, in denen die Anwesenheit farbiger Menschen „beginnen kann, Wirkung zu zeigen“. Aber bis der Chatbot von OpenAI funktioniert, Sind Sie schwärzer als ChatGPT?wird für die Spieler immer noch erschreckend einfach sein.