Die Europäische Union will als erste weltweit einen umfassenden Rechtsrahmen verabschieden, um die Auswüchse der künstlichen Intelligenz (KI) einzudämmen und gleichzeitig Innovationen zu sichern.
Brüssel hat vor zwei Jahren einen ehrgeizigen Verordnungsentwurf vorgeschlagen, dessen Prüfung sich jedoch hinzieht und in den letzten Monaten durch Kontroversen über die Gefahren generativer KI, die Texte oder Bilder erstellen kann, verzögert wurde.
Die EU-Mitgliedsstaaten haben ihre Position erst Ende 2022 definiert.
Die sehr uneinigen Abgeordneten des Europäischen Parlaments werden ihre Zustimmung bei einer Abstimmung im Ausschuss geben, die für etwa 9 Uhr morgens in Straßburg angesetzt ist und im Juni im Plenum bestätigt werden muss. Dann beginnt eine schwierige Verhandlung zwischen den verschiedenen Institutionen.
„Wir haben einen ausgewogenen Text, der eindeutig auf den Schutz der Menschen abzielt, aber die Notwendigkeit von Innovationen nicht außer Acht lässt“, sagte der sozialdemokratische Europaabgeordnete Brando Benifei, Mitberichterstatter des Textes, am Mittwoch.
Systeme der künstlichen Intelligenz sind technisch sehr komplex und faszinieren ebenso wie sie beunruhigen.
Während sie Leben retten können, indem sie einen Quantensprung in der medizinischen Diagnose ermöglichen, werden sie auch von autoritären Regimen zur Massenüberwachung der Bürger ausgenutzt.
Ihr immenses Potenzial entdeckte die breite Öffentlichkeit Ende letzten Jahres mit der Veröffentlichung des chatgpt-Generators für redaktionelle Inhalte des kalifornischen Unternehmens OpenAI, mit dem in Sekundenschnelle originelle Essays, Gedichte oder Übersetzungen verfasst werden können.
Aber die Verbreitung falscher, realerer Bilder in sozialen Netzwerken, die aus Anwendungen wie midjourney stammen, warnte vor den Risiken der Meinungsmanipulation.
Wissenschaftliche Persönlichkeiten haben sogar ein Moratorium für die Entwicklung der leistungsstärksten Systeme gefordert, bis diese besser gesetzlich geregelt sind.
Der Standpunkt des Parlaments, der am Donnerstag verabschiedet werden soll, bestätigt im Großen und Ganzen den Ansatz der Kommission. Der Text orientiert sich an bestehenden Vorschriften zur Produktsicherheit und wird Kontrollen vor allem auf der Grundlage von Unternehmen vorschreiben.
Der Mensch muss die Kontrolle haben
Das Herzstück des Projekts besteht aus einer Liste von Regeln, die nur für Anwendungen gelten, die von den Unternehmen selbst aufgrund der Kriterien des Gesetzgebers als „hochriskant“ eingestuft werden. Für die europäische Exekutive wären es alle Systeme, die in sensiblen Bereichen wie kritischer Infrastruktur, Bildung, Personalwesen, Strafverfolgung oder Migrationsmanagement eingesetzt werden …
Zu den Pflichten gehören: die Gewährleistung der menschlichen Kontrolle über die Maschine, die Erstellung einer technischen Dokumentation oder die Implementierung eines Risikomanagementsystems…
Ihre Einhaltung wird von den zuständigen Aufsichtsbehörden in jedem Mitgliedsland überwacht.
Die Abgeordneten wollen die Verpflichtungen nur auf Produkte beschränken, die voraussichtlich die Sicherheit, Gesundheit oder Grundrechte gefährden. Eine Lockerung, die von bestimmten Fraktionen wie den Grünen angefochten wird.
Das Europäische Parlament will generative KIs vom Typ ChatGPT besser berücksichtigen, indem es eine spezifische Regelung von Pflichten fordert, die im Wesentlichen die für Hochrisikosysteme vorgesehenen Verpflichtungen wiederholen.
Die Abgeordneten wollen die Anbieter außerdem dazu zwingen, Schutzmaßnahmen gegen illegale Inhalte zu ergreifen und die urheberrechtlich geschützten Daten (wissenschaftliche Texte, Musik, Fotos usw.) offenzulegen, die zur Entwicklung ihrer Algorithmen verwendet werden.
Der im April 2021 vorgestellte Vorschlag der Kommission sieht bereits einen Rahmen für KI-Systeme vor, die mit Menschen interagieren. Dadurch werden sie verpflichtet, den Benutzer darüber zu informieren, dass er mit einer Maschine in Kontakt steht, und die Anwendungen, die Bilder erzeugen, werden gezwungen, anzugeben, dass sie künstlich erstellt wurden.
Verbote werden selten sein. Dabei handelt es sich um Anwendungen, die im Widerspruch zu europäischen Werten stehen, etwa die in China angewandten Bürgerbewertungssysteme oder die Massenüberwachung.
Die Abgeordneten wollen ein Verbot von Emotionserkennungssystemen hinzufügen und die Ausnahmeregelungen aufheben, die die biometrische Fernidentifizierung von Personen an öffentlichen Orten durch Strafverfolgungsbehörden gestatten.
Sie wollen außerdem die massenhafte Sammlung von Fotos im Internet zum Trainieren von Algorithmen ohne Zustimmung der Betroffenen verbieten.
