Mit DALL-E 3 auf chatgpt und der OpenAI-API erstellte Bilder verfügen jetzt über Wasserzeichen.
Am Dienstag teilte das Unternehmen die Ankündigung in einem mit Post auf X heißt es: Bilder „enthalten jetzt Metadaten gemäß C2PA-Spezifikationen.“
Der Tweet wurde möglicherweise gelöscht
C2PAwas für Coalition for Content Provenance and Authenticity steht, ist ein technischer Standard, der von Adobe, Microsoft, BBC und anderen Unternehmen und Verlagen verwendet wird, um der Verbreitung von Deepfakes und Fehlinformationen entgegenzuwirken, „durch die Zertifizierung der Quelle und Geschichte (oder Herkunft) von Medieninhalten.“ ,“ wie auf der C2PA-Site erklärt.
Bard erstellt ein Bild von Taylor Swift, obwohl google andeutet, dass dies nicht der Fall sei
Auf ChatGPT und der OpenAI-API generierte Bilder enthalten Metadaten, einschließlich der Quelle des KI-Tools und des Erstellungsdatums. Metadaten können angezeigt werden, indem das Bild auf Websites wie hochgeladen wird Inhaltliche Anmeldeinformationen. C2PA-Metadaten erhöhen die Dateigröße geringfügig, OpenAI gibt jedoch an, dass dies keinen Einfluss auf die Bildqualität hat.
Mit KI-Bilderzeugungstools wie DALL-E 3, midjourney, Bard und Copilot ist es einfacher denn je, Deepfakes zu erstellen, irreführende Informationen zu verbreiten und Bilder zu veröffentlichen, die urheberrechtlich geschützte Werke verletzen. Kürzlich verbreiteten sich pornografische Deepfakes von Taylor Swift viral, was die Notwendigkeit einer Überprüfung der Bilder und ausreichender Schutzmaßnahmen unterstreicht, um solchen Schaden zu verhindern – insbesondere bei Personen des öffentlichen Lebens. Eine im Oktober 2023 angekündigte Durchführungsverordnung von Präsident Biden schreibt ausdrücklich die Durchsetzung der Kennzeichnung von KI-generierten Inhalten als solche vor. Leitlinien für das Markieren von Inhalten mit Wasserzeichen werden vom Handelsministerium erstellt, das auch die Aufgabe hat, Hersteller von KI-Grundlagenmodellen zu verpflichten, die Regierung über ihre Entwicklung zu informieren.
Obwohl das Markieren von Bildern mit Wasserzeichen ein Schritt in die richtige Richtung zur Verifizierung von KI-generierten Bildern ist, ist es nicht narrensicher, da Metadaten leicht entfernt werden können. „Zum Beispiel entfernen die meisten Social-Media-Plattformen heutzutage Metadaten aus hochgeladenen Bildern, und Aktionen wie das Erstellen eines Screenshots können diese ebenfalls entfernen“, heißt es auf der OpenAI-Richtlinienseite, die den C2PA-Standard detailliert beschreibt. „Daher kann es sein, dass ein Bild, dem diese Metadaten fehlen, mit ChatGPT oder unserer API generiert wurde.“
Auf der OpenAI-Richtlinienseite wird außerdem angegeben, dass eingebettete C2PA-Wasserzeichen nur auf die Bildgenerierung angewendet werden, nicht jedoch auf die über ChatGPT oder die OpenAI-API erstellte Sprach- oder Textgenerierung.
