Von Frauen getriebene KI oder mangelndes Geschlechterbewusstsein? Werfen wir einen Blick auf die Herausforderungen, denen chatgpt in Bezug auf Geschlechterfragen begegnet ist!
Text｜Keine Katze
Mira. Mira Murati absolvierte eine Ivy-League-Schule und wurde 2022 zum Chief Technology Officer (CTO) von OpenAI befördert. Sie ist als „Mutter von ChatGPT“ bekannt.
Als wichtiger Förderer von ChatGPT ist Mira. Muratti scheint ein Meilenstein für den Erfolg biologischer Frauen in den Bereichen Wissenschaft und Technik zu sein, und viele Medien haben es auch als ein Phänomen dargestellt, bei dem Frauen die Geschlechterbarrieren in der Technologiebranche erfolgreich überwinden.
Aber ist die Tatsache wirklich so intuitiv? Wir könnten es genauso gut anhand glaubwürdiger Daten, wissenschaftlicher Forschung und der mittlerweile beliebten ChatGPT 3 und 4 analysieren.
Der Erfolg einzelner Frauen bedeutet nicht, dass der Körper geschlechtsbewusst ist
Fast die Hälfte der Erwerbsbevölkerung in den Vereinigten Staaten ist weiblich, aber nur 27 % von ihnen arbeiten in den MINT-Bereichen (Mathematik, Naturwissenschaften, Technik, Ingenieurwesen). Viele Studien haben darauf hingewiesen, dass Geschlechterstereotypen und strukturelle Faktoren (wie geschlechtsspezifische Gehaltsunterschiede, Schwierigkeiten bei der Beförderung usw.) die Bereitschaft von Frauen, in MINT-Fächer einzusteigen, deutlich verringern.
Selbst in den Vereinigten Staaten, wo „Vielfalt“ das Sagen hat, gibt es sie immer noch auf unterschiedliche Weise – selbst Technologieunternehmen, die von Frauen dominiert werden, sind nicht immun, darunter auch Mira. OpenAI unter der Leitung von Muratti-Technologie.
Das biologische Geschlecht kann nicht garantieren, dass die von ihm hergestellten Produkte nicht „geschlechtsblind“ sind, geschweige denn die Leistungen einer Frau in einer Position, und das System oder der Bereich, in dem sie betrachtet wird, verfügt über ein Geschlechterbewusstsein (Genderbewusstsein).
Allan Johnson [1](2014) haben gewarnt, dass der Erfolg einer Minderheit von Frauen in männerdominierten Bereichen nicht das Erreichen der Gleichstellung der Geschlechter bedeutet, da die Ungleichheit der Geschlechter struktureller Natur ist.
Geschlechterungleichheit kann in der Lohnlücke „gleiche Arbeit, ungleicher Lohn“, der Schwierigkeit der Beförderung, sexueller Belästigung oder einer tieferen geschlechtsspezifischen Arbeitsteilung in der Familie bestehen (z. B. sind die meisten Frauen immer noch die Hauptbetreuerinnen von Kindern, was die Beförderung betrifft). der Technologiebranche, die oft Überstunden erfordert, sind ungünstiger) und andere geschlechtsspezifische Barrieren.
Doch wenn die Medien den Erfolg einzelner Frauen herausposaunen, verleitet dies die Menschen oft zu der Annahme, dass die Gleichstellung der Geschlechter erreicht sei.
Weiterführende Literatur:Gleichstellung der Geschlechter in der Wissenschaft, die National Taiwan University und die Tsinghua University appellieren gemeinsam: Bei der Talentförderung besteht ein Ungleichgewicht zwischen den Geschlechtern, und im Forschungssystem darf das Bewusstsein für die Gleichstellung der Geschlechter nicht fehlen
Riesige Textmenge, die auf einem generierten geschlechterblinden Diskurs basiert
Obwohl Mira bereits auf dem höchsten technischen Niveau von OpenAI ist, ist es ironisch, dass Ivana, eine Technologin, die auch das Gebiet der KI studiert, Als Ivana Bartoletti ChatGPT 4 bat, eine Geschichte über einen Jungen und ein Mädchen zu schreiben, die sich für eine Universitätsfakultät entscheiden, stellte sie fest, dass die Konnotation der Geschichte vollständig den bisherigen Geschlechterstereotypen entsprach.
Jungen entschieden sich für Ingenieurwissenschaften und „gestanden“, dass sie den emotionalen und kreativen Aspekten eines Kunstprojekts nicht gewachsen seien und lieber mit Logik und konkreten Ideen arbeiten würden; Mädchen wurden als Studenten dargestellt, die sich für einen Kunststudiengang entschieden, weil sie der Meinung waren, dass sie in technischen Fragen nicht gut seien Zahlen.
Wenn diese Geschichte in einem Kinderbilderbuch platziert wird, wird sie zweifellos als „mangelndes Geschlechterbewusstsein“ oder „Förderung von Geschlechterstereotypen“ kritisiert. Für die generative KI, die als Zukunftstrend gilt, ist jedoch die Genauigkeit ihrer Kommentare und Zensur ist offensichtlich Nicht genug, wie Mira selbst im Interview zugab: „Es (ChatGPT) könnte die Fakten verfälschen“[3]。
Mira sprach auch über ihre Erwartung, dass ChatGPT personalisierte Bildung (personalisierte Bildung) bringen wird, aber vorher muss sie möglicherweise das mangelnde Geschlechterbewusstsein dieses „Pädagogen“ beheben. Betrachtet man dieses Beispiel, bedeutet die bloße Tatsache, dass eine Frau eine hohe Position in einem von Männern dominierten Bereich einnimmt, nicht, dass sie Macht hat oder den Zustand der Geschlechterblindheit bewusst verbessert.
„Es reicht nicht aus, Individuen zu verändern, wir müssen die Strukturen und Institutionen ändern, die sie ausmachen.“[4]„Weil persönliche Erfahrungen immer von der Struktur (Werten, Institutionen und Kultur) beeinflusst werden.
Im selben Feld hinzugefügt:Warum betreibt die Technologiebranche Geschlechterforschung?Um das binäre Denken loszuwerden, können Vielfalt und Integration wissenschaftliche und technologische Innovationen beschleunigen
Mira verfügt vielleicht über genügend Wirtschafts- oder Klassenkapital, um eine bestimmte gläserne Decke zu durchbrechen, aber was noch mehr durchbrochen werden muss, ist die subtile Unterscheidung zwischen der Sammlung von Daten und der Bildung von Diskursen durch die von ihm entworfene generative KI.
Eines der Risiken beim Einsatz von Deep Learning zur Kultivierung generativer KI durch riesige Mengen textbasierter Daten besteht darin, dass es schwierig ist, die Geschlechterblindheit in diesen Daten in Echtzeit zu untersuchen, wodurch patriarchalere Systeme entstehen. ) Rekonsolidierung (Verstärkung) der Text.
Unabhängig davon, ob sich OpenAI oder andere Unternehmen mit den von diesem bahnbrechenden Tool generierten Inhalten auseinandersetzen sollten, müssen diese überwacht und überprüft werden, um nicht überholte Geschlechterstereotypen zu verstärken oder einen Mangel an Geschlechterbewusstsein zu vermitteln.
Die nächste Generation von KI-Nutzern unterschiedlichen Geschlechts benötigt dringend Informationsquellen, die Diskriminierung aufgrund von Geschlecht, Rasse, Alter und Klasse vermeiden.
Angesichts der Tatsache, dass ChatGPT 4 von der Khan Academy, der weltweit größten kostenlosen Online-Bildungsplattform, verwendet wurde, um einen Bildungsassistenten Khanmigo zu erstellen, und Miras Erwartungen an die Bildungsaufgaben von ChatGPT, hat OpenAI eindeutig eine soziale Verantwortung, diese geschlechtsblinde Ausgabe so schnell wie möglich zu korrigieren möglich.
Da viele prominente Persönlichkeiten nachdrücklich ein Moratorium für die Entwicklung von KI gefordert haben: Da es keine ernsthaften Aufsichts- und Überprüfungsmechanismen gibt, ist es wahrscheinlich, dass sie zur Vermittlung einer bestimmten Ideologie oder zur Verbreitung von Desinformation eingesetzt wird.
