chatgpt artificial intelligence chatbot app on the screen. Green area and an artificial lake. Rio de Janeiro, RJ, Brazil. March 2023″ src=“https://www.entreprendre.fr/wp-content/uploads/AdobeStock_580896365_Editorial_Use_Only-696×464.jpg“/>

Tribune de Wilhelmine Dubuisson, Business & Account Manager bei Prodware.

„Um voranzukommen, muss man einen Schritt zurücktreten. Denn einen Schritt zurück zu machen bedeutet, an Schwung zu gewinnen. “ In Das Gute, das SchlechteMit diesen Worten ging Mc Solaar auf die Frage nach der Beziehung zwischen Vergangenheit und Zukunft ein, auf die Notwendigkeit der Kenntnis der Geschichte, um sich in die Zukunft zu bewegen. Künstliche Intelligenz veranschaulicht diese Logik auf ihre eigene Weise. Sie stellt sich Lösungen (in der Zukunft) auf der Grundlage bereits vorhandener Daten (in der Vergangenheit) vor. Sobald man den Prozess kennt, tauchen natürlich Fragen auf. Ist es in diesem Zusammenhang möglich – und wenn ja wie –, Repräsentationsverzerrungen in den von KI vorgeschlagenen Lösungen zu erkennen und zu korrigieren?

Um diese Frage zu beantworten, bietet ChatGPT eine Antwort in vier Schritten: Datenquellen diversifizieren, kontinuierliche Überwachung und Auswertung der Daten anwenden, eine Vielzahl von Mitwirkenden einbeziehen (und weibliche Mitwirkende, Anmerkung des Herausgebers, Darstellungsvoreingenommenheit, wenn Sie uns sagen) und das Bewusstsein untereinander schärfen Benutzer (Anmerkung des Herausgebers, CQFD usw.). Das OpenAI-Tool beschreibt weiter: „ Es kann schwierig sein, die Darstellungsverzerrung vollständig zu beseitigen. Die Korrektur dieser Vorurteile ist ein fortlaufender Prozess, der gemeinsame Anstrengungen von KI-Entwicklern, Forschern und Benutzern erfordert „. Immer noch keine umfassende Schrift, immer noch keine Vielfalt, aber ein Abschluss in Form einer rednerischen Vorsichtsmaßnahme. ChatGPT bietet seinen Lesern daher die Möglichkeit, ihre eigenen Antworten ins rechte Licht zu rücken. Ausreichend ? Nichts ist weniger sicher …

These, Antithese, Synthese … Zweifel? Annahme ?

Bei jeder Analyse von Werkzeugen der künstlichen Intelligenz muss zunächst beachtet werden, dass sie, egal wie stark sie in einen kreativen Prozess eingreifen, ihn niemals initiieren. Tatsächlich erfinden KI-Tools nichts und erschaffen nichts. Sie interpretieren, analysieren, strukturieren, reproduzieren, führen aus. Ihnen Intentionalität zu verleihen bedeutet, eine zusätzliche Analyseverzerrung hinzuzufügen. Wäre KI dann eher Opfer als Täter von Voreingenommenheit? Hinter der sprachlichen Pirouette steckt eine tiefere Wahrheit.

Denn die Stereotypen, mit denen die KI sie reproduzieren kann, sind niemals mit Intentionalität verknüpft. Im Gegenteil, sie sind immer das Ergebnis einer Datensammlung, die selbst voreingenommen ist. Die Antwort der KI berücksichtigt die ihr gestellte Frage und die immense Datenmenge, auf die sie zur Beantwortung Zugriff hat. Diese Reaktion ist also nur das Ergebnis einer kalten und leidenschaftslosen Berechnung, die Korrelationen auf statistischen Grundlagen herstellt, die durch große Zahlen möglich sind. Es handelt sich weder um eine Begründung noch um eine absolute und zwingende Antwort, sondern um eine Ansammlung von Elementen, die die Debatte befeuern können.

Die Antwort liegt in der Frage?

Die Gesellschaft als Ganzes weist viele Ungleichgewichte auf. Diskriminierung, Geschlechterungleichheiten, mangelnde Vielfalt und Inklusion – die sensiblen Punkte sind ebenso vielfältig wie ihre Fähigkeit, in der öffentlichen Debatte an Boden zu gewinnen. Die Entwicklung ist positiv, vielversprechend, aber die Beobachtung ist da. Allerdings liefert KI auf der Grundlage von Daten, die selbst verzerrt sind, Antworten, die zumindest hinsichtlich ihrer sozialen Komponente mehr Fragen aufwerfen als Lösungen bieten. Seine Aktion scheint eine Paraphrase von Coluches Definition des Technokraten zu sein: „ Wenn Sie ihm eine Frage stellen und er Ihnen zu Ende geantwortet hat, verstehen Sie die Frage, die Sie gestellt haben, nicht mehr. „. Die KI wäre also eine Version 2.0, 3.0 oder 4.0 des Technokraten von Bastard Nr. 1? Nicht ganz. Denn wo die von Coluche beschriebene Figur nur Verwirrung stiftete, ist eine KI in der Lage, die eklatantesten Ungleichgewichte aufzuzeigen, Berechnungen zu erstellen, um sie besser zu identifizieren, und Lösungen vorzuschlagen, um sie besser zu korrigieren. Das ist auch die Tugend eines unbeabsichtigten Werkzeugs: seine Formbarkeit. Oft auf seine düsterste Weise beschrieben (was zu der katastrophalen Erfahrung von Tay führen würde, der KI, die nach böswilligen Interaktionen im Jahr 2016 rassistisch wurde), ist es auch eine Quelle des Fortschritts. Ein ehrlicher Blick auf die Vergangenheit ist der einzige Weg, eine bessere Zukunft aufzubauen. Das zentrale Element dieser Artikulation ist tatsächlich die Gegenwart.

Vergangenheit, um in Ihrer Zukunft präsent zu sein

Die Gegenwart ist eine Zeit, in der Ergebnisse (die Vergangenheit hat uns ins Hier und Jetzt gebracht) und Aufbau (der einer Zukunft, die noch nicht existiert) vermischt werden. KI ist Teil dieser Spannung. Es konstruiert oder hilft den Menschen zumindest beim Konstruieren, stützt sich dabei jedoch nur auf vergangene, faktische Elemente. Ihm eine Absicht zuzuschreiben, genauso wie ihm Voreingenommenheit vorzuwerfen, liefe darauf hinaus, Elemente auf ihn zu projizieren, die ihn überhaupt nicht ausmachen. Der Mensch ist der unbestreitbare und – hoffen wir – unbestrittene Meister des Denkens, die Maschine der Diener ihres kreativen Prozesses. Es fasst vergangene Elemente zusammen, reagiert auf die Gegenwart und der Mensch kann sie nutzen (oder auch nicht), um die Zukunft zu gestalten.

Dies ist ein weiteres Kontextelement, das manchmal zugunsten alleiniger Überlegungen zur Rechenleistung von Maschinen vernachlässigt wird: die Zeitlichkeit der KI-Analyse. In einer Welt, die sich immer schneller bewegt, ist die Reaktion der KI nie etwas anderes als eine Analyse der Vergangenheit, selbst wenn sie gebeten wird, sich die Zukunft vorzustellen. Es befindet sich in ständiger Entwicklung und wird ständig vom Menschen (durch neue Daten, aber auch durch neue Kontexte, neue gesellschaftliche Probleme) und durch sich selbst (durch die maschinelles Lernen). Die Dekontextualisierung ihrer Antworten reproduziert daher die gleiche Voreingenommenheit wie die Nichtberücksichtigung der Daten, die ihr geholfen haben, sie zu formalisieren. Wir können gar nicht genug betonen, dass künstliche Intelligenz trotz der universellen Anziehungskraft einer schönen, vorgefertigten Lösung grundsätzlich ein Werkzeug bleibt, das der menschlichen Analyse dient, nuancierter, komplexer, emotionaler, kurz gesagt, vollständiger.

Hat künstliche Intelligenz schließlich Recht? Wenn wir ChatGPT immer noch glauben, scheint sie selbst (ist es nicht immer noch eine Voreingenommenheit, ihr ein weibliches Geschlecht zu geben?) an der Relevanz der Frage zu zweifeln: „ Als künstliche Intelligenz bin ich darauf programmiert, Antworten auf der Grundlage der Informationen und Sprachmuster zu geben, die mir während meiner Ausbildung zur Verfügung gestellt wurden. Es ist jedoch wichtig zu beachten, dass ich nicht unfehlbar bin und meine Antworten manchmal Fehlern oder Ungenauigkeiten unterliegen können. Ich bemühe mich, genaue und zuverlässige Antworten zu geben, es wird jedoch immer empfohlen, die von mir gegebenen Informationen mit zusätzlichen Quellen oder Experten auf dem relevanten Gebiet zu überprüfen ».

Um die KI besser zu sehen und zu verstehen, was sie bringen kann, sollten wir aufhören, sie von der Seite zu betrachten, ohne jemals die Tatsache aus den Augen zu verlieren, dass sie wie ein Vergrößerungsspiegel immer unsere eigenen Vorurteile trägt.

Wilhelmine Dubuisson