Die Europäische Union hat sich am Freitag, dem 9. Dezember 2023, nach dreitägigen intensiven Verhandlungen zwischen den Mitgliedstaaten und dem Europäischen Parlament auf eine beispiellose globale Gesetzgebung zur Regulierung künstlicher Intelligenz (KI) geeinigt.

Die Mitgesetzgeber der Europäischen Union haben eine „politische Einigung“ über einen Text erzielt, der Innovationen in Europa fördern soll Begrenzung des möglichen Missbrauchs dieser Technologien sehr fortgeschritten.

Überwachung künstlicher Intelligenz, eine „historische“ Vereinbarung

„Historisch! „Die EU ist der erste Kontinent, der klare Regeln für den Einsatz von KI festlegt“, sagte EU-Kommissar Thierry Breton zu Beginn des im April 2021 vorgestellten Projekts.

Seitdem haben sich die Diskussionen hingezogen. Die letzte Verhandlungsrunde, die am Mittwochnachmittag begann, dauerte selbst fast 35 Stunden…

Beeinträchtigt wurde der Prozess Ende letzten Jahres durch das Erscheinen von chatgpt, dem Textgenerator des kalifornischen Unternehmens OpenAI, der in der Lage ist, Essays, Gedichte oder Übersetzungen in wenigen Sekunden zu schreiben.

Dieses System, ebenso wie diejenigen, die Töne oder Bilder erzeugen können, offenbarten der breiten Öffentlichkeit das immense Potenzial der KI. Aber auch gewisse Risiken. Die Verbreitung von gefälschten, überlebensgroßen Fotos in sozialen Netzwerken hat beispielsweise auf die Gefahr der Meinungsmanipulation aufmerksam gemacht.

Dieses Phänomen der generativen KI wurde auf Wunsch von Abgeordneten, die auf einer besonderen Aufsicht für diese Art von Technologie mit großer Wirkung bestehen, in die aktuellen Verhandlungen integriert. Sie forderten insbesondere mehr Transparenz über die Algorithmen und die riesigen Datenbanken, die das Herzstück dieser Systeme bilden.

Die Mitgliedstaaten befürchteten, dass eine übermäßige Regulierung ihre aufstrebenden Champions wie Aleph Alpha in Deutschland und Mistal AI in Frankreich im Keim ersticken würde, indem die Entwicklungskosten unerschwinglich würden.

„Strategische Autonomie“

Die am Freitagabend erzielte politische Einigung muss durch technische Arbeiten zur Fertigstellung des Textes ergänzt werden. „Wir werden den heute gefundenen Kompromiss sorgfältig analysieren und in den kommenden Wochen sicherstellen, dass der Text Europas Fähigkeit zur Entwicklung eigener Technologien für künstliche Intelligenz und seine strategische Autonomie wahrt“, reagierte der französische Digitalminister Jean-Noël Barrot.

Der Technologiesektor ist von entscheidender Bedeutung. „Geschwindigkeit scheint Vorrang vor Qualität zu haben, mit möglicherweise katastrophalen Folgen für die europäische Wirtschaft“, sagte Daniel Friedlaender, Europamanager der CCIA, einer ihrer Hauptlobbyisten. Ihm zufolge seien nun „technische Arbeiten“ an entscheidenden Details „notwendig“.

Bei der generativen KI sieht der Kompromiss einen Zwei-Geschwindigkeits-Ansatz vor. Die Regeln gelten für alle um die Qualität der bei der Entwicklung der Algorithmen verwendeten Daten sicherzustellen und zu überprüfen, dass dies nicht der Fall ist verstoßen Sie nicht gegen das Urheberrecht.

Entwickler müssen außerdem sicherstellen, dass die erzeugten Töne, Bilder und Texte eindeutig als künstlich gekennzeichnet sind.

Verstärkte Einschränkungen gelten nur für die leistungsstärksten Systeme.

Menschliche Kontrolle über die Maschine

Der Text greift die Grundsätze bestehender europäischer Produktsicherheitsvorschriften auf, die vor allem unternehmensbezogene Kontrollen vorschreiben.

Das Herzstück des Projekts besteht aus einer Liste von Regeln, die nur für Systeme gelten, die als „hochriskant“ gelten, im Wesentlichen für solche, die in sensiblen Bereichen wie kritischer Infrastruktur, Bildung, Personalwesen, Strafverfolgung usw. eingesetzt werden.

Diese Systeme unterliegen einer Reihe von Verpflichtungen, wie z. B. der Gewährleistung einer menschlichen Kontrolle der Maschine, der Erstellung einer technischen Dokumentation oder der Implementierung eines Risikomanagementsystems.

Die Gesetzgebung sieht eine spezifische Überwachung von KI-Systemen vor, die mit Menschen interagieren. Dadurch werden sie gezwungen, den Benutzer darüber zu informieren, dass er mit einer Maschine in Kontakt steht.

Seltene Verbote

Verbote werden selten sein. Dabei geht es um Anwendungen, die im Widerspruch zu europäischen Werten stehen, etwa die in China verwendeten Bürgerbewertungs- oder Massenüberwachungssysteme oder die biometrische Fernidentifizierung von Personen an öffentlichen Orten, um eine Massenüberwachung der Bevölkerung zu vermeiden.

In diesem letzten Punkt stimmten die Staaten jedoch überein Ausnahmen für bestimmte Strafverfolgungsaufgaben wie die Terrorismusbekämpfung.

Im Gegensatz zu den freiwilligen Verhaltenskodizes bestimmter Länder wird die europäische Gesetzgebung mit der Schaffung eines europäischen KI-Büros innerhalb der Europäischen Kommission mit Überwachungs- und Sanktionsmöglichkeiten ausgestattet. Für die schwersten Verstöße kann sie Bußgelder in Höhe von bis zu 7 % des Umsatzes verhängen, wobei die Untergrenze bei 35 Millionen Euro liegt.

Source : © 2023 AFP

Verfolgen Sie alle Nachrichten aus Ihren Lieblingsstädten und -medien, indem Sie Mon Actu abonnieren.