Die Angelegenheit wäre zweifellos unbemerkt geblieben, wenn sie nicht mit OpenAI und chatgpt verknüpft gewesen wäre. Anfang des Jahres kündigte das österreichische Arbeitsministerium mit großem Getöse die Schaffung eines neuen Tools zur Jobsuche an. Der vom Äquivalent des österreichischen France Travail (ehemals Pôle Emploi) ins Leben gerufene Konversationsagent mit dem Namen Berufsinfomat zielte darauf ab, die Arbeit der Beamten des Landes zu erleichtern, indem er ihnen erlaubte Beratung und Unterstützung bei der Arbeitssuche Studenten und Arbeitslose.
Es überrascht nicht, dass die österreichische Regierung bei einem in diesem Jahr eingeführten Tool bei der Durchführung ihres Projekts stark auf KI setzte. Berufsinfomat profitierte somit von einer Zusammenarbeit mit OpenAI über ChatGPT, die dem Tool internationale Strahlkraft auf europäischer Ebene verschaffte.
Frauen ohne Computer
Schade für Österreich, das als revolutionär gedachte Projekt geriet schnell ins Wanken. In einem Artikel der Lokalzeitung DerStandard und weitergeleitet von Courrier Internationalerfahren wir, dass Berufsinfomat gelitten hat Zahlreiche technische Probleme beim Start. Die wichtigsten drehen sich um erhebliche sexistische Vorurteile seitens des Chatbots.
Konkret wären viele männliche Kandidaten auf Jobs im IT-Bereich verwiesen worden, wenn ihre Fähigkeiten dies zuließen. Nichts ist bisher logischer, außer dass bei identischen Lebensläufen und Fähigkeiten die Untersuchung von DerStandard unterstreicht, dass die weiblichen Kandidaten eher auf Studiengänge und Positionen mit Bezug zu Gastronomie, Psychologie oder Philosophie ausgerichtet waren.
ChatGPT ist sexistisch, und das ist in Ordnung
Wenn die sexistischen Vorurteile von ChatGPT schnell korrigiert werden müssen, damit der Chatbot von OpenAI komplexe soziale Situationen wie die des österreichischen Jobcenters bewältigen kann, ist die Situation letztendlich nicht überraschend. Wie alle bestehenden KI-Sprachmodelle auf dem heutigen Markt basiert GPT-4, das ChatGPT antreibt, auf Milliarden von Informationen, die bereits im Web vorhanden sind. Daher ist es für eine KI schwierig, sexistischen und rassistischen Vorurteilen zu entkommen, auch wenn sie ihr Lernen auf einer Gesellschaft basiert, die von vorgefassten Meinungen über bestimmte Bevölkerungsgruppen geprägt ist.
Angesichts der Kontroverse äußerte sich der Generaldirektor der öffentlichen Arbeitsverwaltung in Österreich, Johannes Kopf, auf X und erkannte: „Es ist nicht einfach, diese Vorstellung vom IT-Sektor völlig zu verwerfen„. Nach den vielen technischen Versprechen, die ChatGPT und generative KI seit letztem Jahr bieten, ist es nun angebracht, einen Blick darauf zu werfen ethischer Aspekt.
Und Datenschutz?
Die Bedenken der Österreicher gegenüber dem Tool „Berufsinfomat“ betreffen neben der sexistischen Ausrichtung auch den Online-Datenschutz. Wenn das österreichische Ministerium für die über seine Plattform übermittelten Informationen verantwortlich ist, empfiehlt es, keine personenbezogenen, sensiblen oder privaten Daten bereitzustellen. In Frage: Da der Chatbot mit OpenAI verbunden ist, dürften alle ihm zur Verfügung gestellten Daten vorhanden sein von der amerikanischen Firma geborgen und genutzt. Dies ist zweifellos der Grund, warum Frankreich nie den Sprung in die generative künstliche Intelligenz gewagt hat, um seine eigenen öffentlichen Dienste zu stärken, auch wenn die Idee bereits mehrfach erwähnt wurde.
🟣 Um keine Neuigkeiten im Journal du Geek zu verpassen, abonnieren Sie google.com/publications/CAAqBwgKMNr_hAswwYyCAw?hl=fr&gl=FR&ceid=FR%3Afr“ target=“_blank“>Google Nachrichten. Und wenn Sie uns lieben, haben wir jeden Morgen einen Newsletter.
