Die Organisation der Vereinten Nationen für Erziehung, Wissenschaft und Kultur (UNESCO) forderte die Regierungen auf, den Einsatz generativer künstlicher Intelligenz (GenAI) in Bildung und Forschung zu regulieren.

Öffentlich verfügbare GenAI-Tools wie chatgpt können automatisiert Texte, Bilder, Videos, Musik und Softwarecode erstellen. Die Plattformen haben sich rasant weiterentwickelt und werden bereits von Hunderten Millionen Menschen auf der ganzen Welt genutzt, darunter auch von vielen Studenten.

Solche weitreichenden Kapazitäten zur Informationsverarbeitung und Wissensproduktion haben möglicherweise enorme Auswirkungen auf die Bildung, da sie das übergeordnete Denken widerspiegeln, das die Grundlage des menschlichen Lernens bildet.

Allerdings verfügen nur sehr wenige Länder über Richtlinien, die einen sicheren und ethischen Einsatz von KI-Tools gewährleisten.

Die UNESCO hat globale Leitlinien zur generativen KI in Bildung und Forschung veröffentlicht, die darauf abzielen, die durch GenAI-Technologien verursachten Störungen anzugehen.

Die Leitlinien der UNESCO schlagen sofortige Schritte vor, die ergriffen werden können, um eine menschenzentrierte Vision für den Einsatz neuer Technologien sicherzustellen.

Dazu gehört die Verpflichtung zum Datenschutz und die Berücksichtigung einer Altersgrenze von 13 Jahren für deren Nutzung im Unterricht. Außerdem werden Anforderungen an GenAI-Anbieter für eine ethische und effektive Nutzung dargelegt.

Der Leitfaden betont die Notwendigkeit für Bildungseinrichtungen, GenAI-Systeme auf ihre ethische und pädagogische Eignung für die Bildung hin zu validieren.

Aus der Perspektive eines menschenzentrierten Ansatzes sollten KI-Tools so konzipiert sein, dass sie die intellektuellen Fähigkeiten und sozialen Fähigkeiten des Menschen erweitern oder steigern – und sie nicht untergraben, mit ihnen in Konflikt geraten oder sie an sich reißen.

Was ist generative KI?

• Generative KI (GenAI) ist eine Technologie der künstlichen Intelligenz (KI), die automatisch Inhalte als Reaktion auf Eingabeaufforderungen generiert, die in Konversationsschnittstellen in natürlicher Sprache geschrieben sind.

• Anstatt lediglich vorhandene Webseiten zu kuratieren, erstellt GenAI tatsächlich neue Inhalte, indem es auf vorhandene Inhalte zurückgreift.

• Der Inhalt kann in Formaten erscheinen, die alle symbolischen Darstellungen menschlichen Denkens umfassen: in natürlicher Sprache verfasste Texte, Bilder (einschließlich Fotografien bis hin zu digitalen Gemälden und Cartoons), Videos, Musik und Softwarecode.

• GenAI wird mithilfe von Daten trainiert, die auf Webseiten, Social-Media-Konversationen und anderen Online-Medien gesammelt wurden. Es generiert seinen Inhalt durch statistische Analyse der Verteilung von Wörtern und Pixeln

oder andere Elemente in den Daten, die es aufgenommen hat, und identifizieren und wiederholen gemeinsame Muster (z. B. welche Wörter typischerweise auf welche anderen Wörter folgen).

• Während GenAI neue Inhalte produzieren kann, kann es keine neuen Ideen oder Lösungen für Herausforderungen der realen Welt generieren, da es reale Objekte oder soziale Beziehungen, die der Sprache zugrunde liegen, nicht versteht.

Wie funktioniert generative KI?

Die spezifischen Technologien hinter GenAI gehören zur Familie der KI-Technologien namens Machine Learning, die Algorithmen verwenden, um ihre Leistung anhand von Daten kontinuierlich und automatisch zu verbessern.

Die Art des maschinellen Lernens, die zu vielen der Fortschritte in der KI geführt hat, die wir in den letzten Jahren gesehen haben, wie zum Beispiel der Einsatz von KI zur Gesichtserkennung, wird als künstliche neuronale Netze (ANNs) bezeichnet, die von der Funktionsweise des Menschen inspiriert sind Gehirn funktioniert und seine synaptischen Verbindungen zwischen Neuronen. Es gibt viele Arten von ANNs.

Die textgenerierende KI verwendet einen KNN-Typ, der als „Allzweck-Transformer“ bekannt ist, und einen Typ von Allzweck-Transformator, der als „Großes Sprachmodell“ bezeichnet wird. Aus diesem Grund werden AI Text GenAI-Systeme oft als Large Language Models (LLMs) bezeichnet. Der von Text GenAI verwendete LLM-Typ wird als Generative Pre-trained Transformer oder GPT bezeichnet (daher das „GPT“ in „ChatGPT“).

Bild-GenAI und Musik-GenAI verwenden typischerweise eine andere Art von ANN, die als Generative Adversarial Networks (GANs) bekannt ist und auch mit Variational Autoencodern kombiniert werden kann. GANs bestehen aus zwei Teilen (zwei „Gegnern“) – dem „Generator“ und dem „Diskriminator“. Bei Bild-GANs erstellt der Generator als Reaktion auf eine Eingabeaufforderung ein zufälliges Bild, und der Diskriminator versucht, zwischen diesem erzeugten Bild und echten Bildern zu unterscheiden. Der Generator verwendet dann das Ergebnis des Diskriminators, um seine Parameter anzupassen, um ein weiteres Bild zu erstellen. Der Vorgang wird möglicherweise tausende Male wiederholt, wobei der Generator immer realistischere Bilder erzeugt, die der Diskriminator immer weniger von echten Bildern unterscheiden kann. Beispielsweise könnte ein erfolgreiches GAN, das auf einem Datensatz aus Tausenden von Landschaftsfotos trainiert wurde, neue, aber unwirkliche Bilder von Landschaften erzeugen, die von echten Fotos kaum zu unterscheiden sind.

In der Zwischenzeit könnte ein GAN, das auf einem Datensatz populärer Musik (oder sogar Musik eines einzelnen Künstlers) trainiert wurde, neue Musikstücke generieren, die der Struktur und Komplexität der Originalmusik folgen.

GenAI bietet vielfältige Einsatzmöglichkeiten

Die Veröffentlichung von ChatGPT im November 2022, gefolgt von iterativ ausgefeilteren Versionen, hat weltweit Schockwellen ausgelöst und befeuert den Wettlauf großer Technologieunternehmen um die Positionierung im Bereich der GenAI-Modellentwicklung.

GenAI bietet vielfältige Einsatzmöglichkeiten. Es kann die Informationsverarbeitung und die Präsentation von Ergebnissen in allen wichtigen symbolischen Darstellungen des menschlichen Denkens automatisieren. Es ermöglicht die Bereitstellung von Endergebnissen durch die Bereitstellung halbfertiger Wissensprodukte.

Durch die Befreiung des Menschen von einigen Kategorien von Denkfähigkeiten niedrigerer Ordnung könnte diese neue Generation von KI-Tools weitreichende Auswirkungen auf unser Verständnis der menschlichen Intelligenz und des Lernens haben.

Millionen von Menschen nutzen GenAI mittlerweile in ihrem täglichen Leben und das Potenzial der Anpassung der Modelle an domänenspezifische KI-Anwendungen scheint zumindest in den kommenden Jahren unbegrenzt.

Kontroversen um generative KI

GenAI wirft mehrere unmittelbare Bedenken im Zusammenhang mit Themen wie Sicherheit, Datenschutz, Urheberrecht und Manipulation auf. Bei einigen davon handelt es sich um umfassendere Risiken im Zusammenhang mit künstlicher Intelligenz, die durch GenAI noch verschärft wurden, während andere mit dieser neuesten Generation von Tools neu entstanden sind.

i) Nutzung von Inhalten ohne Einwilligung

GenAI-Modelle werden aus großen Datenmengen (z. B. Text, Töne, Code und Bilder) erstellt, die oft aus dem Internet stammen und normalerweise ohne die Erlaubnis eines Eigentümers. Vielen Bild-GenAI-Systemen und einigen Code-GenAI-Systemen wurde daher vorgeworfen, geistige Eigentumsrechte zu verletzen. Es gibt mehrere laufende internationale Rechtsfälle, die sich auf dieses Thema beziehen.

ii) KI-generierte Inhalte verschmutzen das Internet

Da GPT-Trainingsdaten typischerweise aus dem Internet stammen, das allzu häufig diskriminierende und andere inakzeptable Ausdrücke enthält, mussten Entwickler sogenannte „Leitlinien“ implementieren, um zu verhindern, dass GPT-Ausgaben anstößig und/oder unethisch sind. Aufgrund des Fehlens strenger Vorschriften und wirksamer Überwachungsmechanismen verbreiten sich von GenAI generierte voreingenommene Materialien jedoch zunehmend im Internet und verunreinigen eine der Hauptinhalts- oder Wissensquellen für die meisten Lernenden auf der ganzen Welt.

Dies ist besonders wichtig, da das von GenAI generierte Material recht genau und überzeugend erscheinen kann, obwohl es häufig Fehler und voreingenommene Ideen enthält. Dies stellt ein hohes Risiko für junge Lernende dar, die über keine fundierten Vorkenntnisse zum jeweiligen Thema verfügen. Es stellt auch ein rekursives Risiko für zukünftige GPT-Modelle dar, die anhand von Texten trainiert werden, die aus dem Internet stammen und von den GPT-Modellen selbst erstellt wurden und deren Vorurteile und Fehler ebenfalls enthalten.

iii) Mangelndes Verständnis der realen Welt

Text-GPTs werden manchmal abwertend als „stochastische Papageien“ bezeichnet. Sie können zwar Texte verfassen, die überzeugend erscheinen, dieser Text enthält jedoch häufig Fehler und kann schädliche Aussagen enthalten. Dies alles geschieht, weil GPTs nur Sprachmuster wiederholen, die in ihren Trainingsdaten (normalerweise Text aus dem Internet) gefunden werden, beginnend mit zufälligen (oder „stochastischen“) Mustern, und ohne deren Bedeutung zu verstehen – so wie ein Papagei Geräusche nachahmen kann, ohne sie tatsächlich zu verstehen was es sagt.

Die Diskrepanz zwischen GenAI-Modellen, die „den Anschein erwecken“, den von ihnen verwendeten und generierten Text zu verstehen, und der „Realität“, dass sie die Sprache und die reale Welt nicht verstehen, kann dazu führen, dass Lehrer und Schüler ein gewisses Maß an Vertrauen in die von ihnen erzeugten Ergebnisse setzen garantiert nicht. Dies birgt ernsthafte Risiken für die zukünftige Bildung.

iv) Deepfakes erzeugen

GenAI kann verwendet werden, um vorhandene Bilder oder Videos zu verändern oder zu manipulieren, um gefälschte Bilder zu erzeugen, die nur schwer von echten zu unterscheiden sind. GenAI macht es immer einfacher, diese „Deepfakes“ und „Fake News“ zu erstellen. GenAI erleichtert es bestimmten Akteuren, unethische, unmoralische und kriminelle Handlungen zu begehen, wie zum Beispiel die Verbreitung von Desinformation, die Förderung von Hassreden und die Einbindung der Gesichter von Menschen ohne deren Wissen oder Zustimmung in völlig gefälschte und manchmal kompromittierende Filme.

v) Ethische Bedenken

GenAI-Systeme im Bildungsbereich können bestehende Ungleichheiten beim Zugang zu Technologie und Bildungsressourcen verschärfen und die Ungleichheiten weiter vertiefen.

GenAI-Systeme in der Bildung können die Interaktion von Mensch zu Mensch und die kritischen sozial-emotionalen Aspekte des Lernens reduzieren.

Es kann die Autonomie und Entscheidungsfreiheit der Lernenden einschränken, indem es vorgegebene Lösungen anbietet oder das Spektrum möglicher Lernerfahrungen einschränkt. Ihre langfristigen Auswirkungen auf die intellektuelle Entwicklung junger Lernender müssen untersucht werden.

GenAI-Systeme, die menschliche Interaktionen nachahmen, können unbekannte psychologische Auswirkungen auf Lernende haben, was Bedenken hinsichtlich ihrer kognitiven Entwicklung und ihres emotionalen Wohlbefindens sowie hinsichtlich der Möglichkeit einer Manipulation aufkommen lässt.

Da immer ausgefeiltere GenAI-Systeme entwickelt und in der Bildung eingesetzt werden, werden sie wahrscheinlich neue Vorurteile und Formen der Diskriminierung auf der Grundlage der von den Modellen verwendeten Trainingsdaten und -methoden erzeugen, was zu unbekannten und potenziell schädlichen Ergebnissen führen kann.