Konversationsanwendungen wie chatgpt besser regulieren: Die Abgeordneten werden am Donnerstag über die künftige Verordnung der Europäischen Union zur künstlichen Intelligenz (KI) abstimmen, ein ehrgeiziger Text, der durch die Kontroversen um diese Technologien verzögert wird.
Die Europäische Union will weltweit die erste sein, die einen vollständigen Rechtsrahmen verabschiedet, um die Exzesse der KI zu begrenzen und gleichzeitig Innovationen zu sichern.
Systeme der künstlichen Intelligenz sind von großer technischer Komplexität und faszinieren ebenso wie sie beunruhigen.
Verbreitung gefährlicher Inhalte, Meinungsmanipulation durch falsche Bilder mit Software wie midjourney, Massenüberwachungssysteme oder noch unbekannte Risiken… Tech-Persönlichkeiten wie Twitter-Chef Elon Musk haben sogar ein Moratorium für ihre Entwicklung gefordert.
Die breite Öffentlichkeit entdeckte ihr immenses Potenzial Ende letzten Jahres mit der Veröffentlichung des ChatGPT-Editors für redaktionelle Inhalte des kalifornischen Unternehmens OpenAI, der in Sekundenschnelle Essays, Gedichte oder Übersetzungen schreiben kann.
Angesichts dieser rasanten Umwälzungen hat die Europäische Kommission vor zwei Jahren einen Gesetzentwurf vorgelegt, dessen Prüfung sich hinzieht.
Die EU-Mitgliedstaaten haben ihre Position erst Ende 2022 definiert. Die sehr gespaltenen Abgeordneten werden ihre Position am Donnerstag in einer Abstimmung in den Ausschüssen in Straßburg bestätigen, die im Juni im Plenum bestätigt werden soll. Dann beginnt eine schwierige Verhandlung zwischen den verschiedenen Institutionen.
Die Vizepräsidentin der Europäischen Kommission, Margrethe Vestager, rief am Montag dazu auf, keine Zeit zu verlieren. „Ich hoffe wirklich, dass wir dieses Jahr fertig werden“, sagte sie.
Die Verzögerung erklärt sich zum Teil durch den Einbruch in die öffentliche Debatte über sogenannte allgemeine künstliche Intelligenzen (die eine Vielzahl von Aufgaben erfüllen können), einschließlich generativer KI wie ChatGPT.
– Mehr Transparenz –
„Es ist ein komplexer Text und wir haben ein neues Regime von Regeln hinzugefügt, das der generativen KI gewidmet ist“, sagte Co-Berichterstatter Dragos Tudorache gegenüber AFP.
Die Abgeordneten wollen Anbieter zwingen, Schutzmaßnahmen gegen illegale Inhalte einzuführen und die urheberrechtlich geschützten Daten offenzulegen, die zur Entwicklung ihrer Algorithmen verwendet werden.
Experten sind jedoch der Ansicht, dass die Risiken der generativen KI keiner gesonderten Behandlung bedürfen. „Ich sehe die Motivation des Parlaments nicht. Ich sehe nicht, wie sich diese Risiken von dem unterscheiden, was bereits erwartet wurde “, kommentierte Pierre Larouche, Experte für digitales Recht an der Universität von Montreal und Forscher am Centre on Regulation in Europe (Cerre) für AFP.
Der im April 2021 vorgestellte Vorschlag der Kommission bietet bereits einen Rahmen für KI-Systeme, die mit Menschen interagieren. Es verpflichtet sie, den Benutzer darüber zu informieren, dass er mit einer Maschine in Kontakt steht, und zwingt die Anwendungen, die Bilder erzeugen, anzugeben, dass sie künstlich erstellt wurden.
Der Text ist von bestehenden europäischen Vorschriften zur Produktsicherheit inspiriert und wird Kontrollen zunächst auf der Grundlage von Unternehmen auferlegen.
Verbote werden selten sein. Sie werden Anwendungen betreffen, die europäischen Werten widersprechen, wie die in China verwendeten Bürgerbewertungssysteme oder die Massenüberwachung.
Die Abgeordneten wollen ein Verbot von Emotionserkennungssystemen hinzufügen und die Ausnahmeregelungen streichen, die die biometrische Fernidentifizierung von Personen an öffentlichen Orten durch die Strafverfolgungsbehörden zulassen.
Außerdem wollen sie das massenhafte Sammeln von Fotos im Internet zum Trainieren von Algorithmen ohne Zustimmung der Betroffenen verbieten.
Das Herzstück des Projekts besteht aus einer Liste von Regeln, die nur Anwendungen auferlegt werden, die von den Unternehmen selbst nach den Kriterien des Gesetzgebers als „hohes Risiko“ eingestuft werden. Die Europäische Kommission hat vorgeschlagen, dass sie sich auf Systeme beziehen, die in sensiblen Bereichen wie kritischen Infrastrukturen, Bildung, Humanressourcen, Strafverfolgung oder Migrationsmanagement eingesetzt werden …
Unter den Verpflichtungen: eine menschliche Kontrolle an der Maschine, die Erstellung einer technischen Dokumentation oder sogar die Implementierung eines Risikomanagementsystems… Die Einhaltung dieser wird von designierten Aufsichtsbehörden in jedem Mitgliedsland überwacht.
Die Abgeordneten fordern strengere Kriterien, um die Einstufung als „hohes Risiko“ nur auf Produkte zu beschränken, die die Sicherheit, Gesundheit oder Grundrechte gefährden können.
Sie erreichen uns unter: [email protected]
