Desinformation ist eines der zentralen ethischen Probleme, die sich mit dem Aufkommen generativer künstlicher Intelligenz stellen. Ein besonders drängendes Thema in diesem Jahr, da die Hälfte der Weltbevölkerung aufgerufen ist, an verschiedenen Parlaments- oder Präsidentschaftswahlen teilzunehmen. Von Bürgern und Regierungen in dieser Hinsicht erwartet, kündigte das kalifornische Unternehmen OpenAI, Erfinder von chatgpt, an diesem Montag die Einführung von Tools zur Bekämpfung von Desinformation an.

Während in diesem Jahr Dutzende Wahlen geplant sind, insbesondere in den Vereinigten Staaten, Indien und Großbritannien, hat OpenAI damit seinen Wunsch bekräftigt, die Verwendung seiner technologischen Tools, einschließlich seines ChatGPT-Tools und des DALL-E 3-Bildgenerators, nicht zuzulassen politische Zwecke.

Generative künstliche Intelligenz: Wie Mistral AI und Amazon den Markt erobern wollen

« Wir möchten sicher sein, dass unsere Technologie nicht auf schädliche Weise eingesetzt wird » zum demokratischen Prozess, erklärt das junge Unternehmen auf einem Blog.

« Wir evaluieren immer noch die potenzielle Wirksamkeit unserer Instrumente zur individuellen Überzeugung. Solange wir nicht mehr wissen, werden wir nicht zulassen, dass Menschen Apps für politische oder aktivistische Kampagnen entwickeln », fügt OpenAI hinzu.

Ein Tool, mit dem Sie die Gültigkeit von Informationen überprüfen können

In diesem Prozess gab das KI-Startup an, dass es Tools entwickelt, um die Herkunft von durch ChatGPT generierten Texten zuverlässig zu bestimmen und Benutzern die Möglichkeit zu geben, zu erkennen, ob ein Bild mit DALL-E 3 erstellt wurde. Dank dieses Tools Wenn ChatGPT nach den amerikanischen Wahlen gefragt wird, kann der Chatbot Wähler beispielsweise auf anerkannte Websites weiterleiten.

« Anfang dieses Jahres werden wir die digitalen Referenzen der Coalition for Content Provenance and Authenticity implementieren. “, erklärte das Technologieunternehmen ebenfalls am Montag. Diese „C2PA“ genannte Koalition wird die Unternehmen Microsoft, Sony, Adobe, Nikkon und Canon zusammenführen.

Generative KI: Meta und IBM starten die AI Alliance, eine wirtschaftliche und ethische Antwort auf Microsoft und google

« Die aus dieser Arbeit gewonnenen Erkenntnisse werden die Grundlage unseres Ansatzes für andere Länder und Regionen bilden „, unterstreicht OpenAI und fügt hinzu, dass seine Bildsoftware DALL-E 3 enthält „ Leitplanken » um zu verhindern, dass Benutzer Bilder von echten Personen, einschließlich Kandidaten, erstellen. Die amerikanischen Tech-Giganten Google und Meta haben ihrerseits bereits im vergangenen Jahr Initiativen angekündigt, um den Einsatz von KI in politischen Kampagnen zu regulieren.

Beim Davoser Wirtschaftsforum kommen Ängste vor KI auf

Die Angst vor Desinformation bei Wahlen besteht schon seit mehreren Jahren, aber der Zugang der breiten Öffentlichkeit zu leistungsstarken KI-gestützten Text- und Bildgeneratoren verschärft die Bedrohung erheblich, sagen Experten. Das Thema steht auch im Mittelpunkt vieler Diskussionen beim Wirtschaftsgipfel in Davos, der jedes Jahr die Wirtschaftseliten der Welt zusammenbringt. Dieses Jahr findet die Veranstaltung bis zum 19. Januar in diesem Bergdorf in der Schweiz statt.

Ein zur Eröffnung des Gipfels veröffentlichter Bericht warnt vor den Gefahren von Desinformation – definiert als freiwillig verbreitete Falschinformationen –, aber auch vor Fehlinformationen – Falschinformationen, die unbeabsichtigt verbreitet werden. Seuchen, die in Verbindung mit KI könnten „ untergraben die Legitimität neu gewählter Regierungen “. Dem Dokument zufolge stellt Informationsmanipulation die größte kurzfristige Bedrohung für Führungskräfte dar. Dahinter stehen extreme Klimaereignisse und gesellschaftliche Brüche.

Eingebettete künstliche Intelligenz, der große Trend auf der CES 2024

Während seiner Rede auf dem Forum am Dienstag sagte der chinesische Ministerpräsident Li Qiang sagte, KI sei es « wie ein zweischneidiges Messer (…) UMit Bedacht eingesetzt, kann es etwas bringen (…) Dies stellt zwar einen Fortschritt für Industrie und Wissenschaft dar, kann aber andererseits auch sicherheitstechnische und ethische Probleme mit sich bringen “. Der chinesische Staatschef plädierte gleichzeitig auch für eine „ Gute Führung » für die boomende KI-Technologie.

Als Nachfolger von Li Qiang plädierte der Präsident der Europäischen Kommission auf der Bühne für „ verantwortungsvoller Einsatz von KI im Dienste der Gesellschaft “. Und um an die Abstimmung über den „Artificial Intelligence Act“ zu erinnern, als eine weltweit bahnbrechende Initiative im Hinblick auf die Regulierung von Technologien der künstlichen Intelligenz.

(Mit AFP)