Wir reden seit Monaten über die Probleme, die gefälschte KI-Fotos verursachen können, seit klar wurde, dass KI-Bildgeneratoren Bilder erzeugen können, die nicht von der Realität zu unterscheiden sind. Deshalb gefällt mir nicht, wie einfach es ist, die KI von google in Fotos zu verwenden und diese Erinnerungen so zu verändern, dass sie nicht mehr wie das aussehen, was man tatsächlich fotografiert hat.

Diese Tools können für böswillige Zwecke verwendet werden, beispielsweise für die Fälschung von Fotos von Kandidaten während eines wichtigen Wahljahres. Wer immer noch nicht weiß, wie gut KI-Bilder sein können, lässt sich leicht täuschen.

Doch dann tauchten vor ein paar Wochen gefälschte AI-Pornobilder von Taylor Swift auf. Ich bin mir sicher, dass es für den geliebten Musikstar ein unglaublich schmerzhaftes Ereignis gewesen sein muss. Die Kehrseite ist jedoch, dass sich die Welt mittlerweile darüber im Klaren ist, wie realistisch diese gefälschten KI-Bilder sein können.

Ich sage nicht, dass der KI-Skandal um Taylor Swift der Grund dafür ist, dass OpenAI gerade angekündigt hat, mit chatgpt und Dall-E 3 erstellte KI-Fotos mit einem Wasserzeichen zu versehen. Oder dass Meta aufgrund der expliziten KI auf seinen sozialen Plattformen einen ähnlichen Ansatz verfolgt Inhalte, die in der vergangenen Woche die Runde gemacht haben. Aber es passiert alles jetzt, viel später, als es hätte sein sollen.

OpenAI gab die neuen Änderungen bekannt in einem Hilfedokument. Das Unternehmen übernimmt die C2PA-KI-Standards, die Adobe und andere im Oktober angekündigt haben. C2PA steht für die Coalition for Content Provenance and Authenticity, a Konsortium von Unternehmen, die Methoden entwickeln, um die Arten von Inhalten zu identifizieren, die Sie möglicherweise online sehen, einschließlich KI-generierter Fotos, Videos und anderer Arten von Medien.

OpenAI beginnt damit, den Leuten zu zeigen, welche Bilder mit ChatGPT und Dall-E erstellt wurden, indem es in der oberen linken Ecke ein „CR“-Symbol platziert. Das CR-Wasserzeichen steht für die Wasserzeicheninitiative „Content Credentials“, die von derselben C2PA-Gruppe stammt.

Sie sehen das Wasserzeichen in der oberen linken Ecke von ChatGPT- und Dall-E-Bildern, wie in den Beispielen in diesem Beitrag.

Wasserzeichen können selbstverständlich entfernt werden. Wir haben es bei den Wasserzeichen gesehen, die Samsung auf den KI-bearbeiteten Fotos des Galaxy S24 platziert. Aus diesem Grund enthalten die OpenAI-Bilder auch Metadateninformationen, die den Ursprung eines Bildes angeben. In der Beschreibung wird ChatGPT oder Dall-E angezeigt.

Aber auch Metadaten können entfernt werden, etwas OpenAI Vorsichtsmaßnahmen:

Metadaten wie C2PA sind kein Allheilmittel zur Lösung von Herkunftsfragen. Es kann leicht entfernt werden, sei es versehentlich oder absichtlich. Beispielsweise entfernen die meisten Social-Media-Plattformen heutzutage Metadaten aus hochgeladenen Bildern, und durch Aktionen wie das Erstellen eines Screenshots können diese ebenfalls entfernt werden. Daher kann es sein, dass ein Bild, dem diese Metadaten fehlen, mit ChatGPT oder unserer API generiert wurde.

Dennoch ist es ein guter Anfang, dass OpenAI endlich KI-Inhalte in Bildern mit Wasserzeichen versehen kann. Natürlich werden einige der Wasserzeichen und Metadaten gelöscht. Aber es könnten mehr Menschen ihnen ausgesetzt sein. Sie werden zumindest erfahren, dass einige der Bilder, die sie online sehen, möglicherweise gefälscht sind.

Die Arbeit für OpenAI hat gerade begonnen. Es werden nur ChatGPT- und Dall-E-Bilder als KI-Kreationen mit einem Wasserzeichen versehen, nicht Text oder Sprache. Aber alle Fotos, die Sie mit ChatGPT und Dall-E im Web generieren, enthalten jetzt die Metadaten. Die mobilen Versionen der Apps erhalten bis zum 12. Februar die gleichen Funktionen.

OpenAI weist außerdem darauf hin, dass die Dateien jetzt etwas größer sein werden, da sie Wasserzeichen und Metadaten enthalten.

Separat, Meta angekündigt plant, KI-Inhalte in Facebook, Instagram und Threads zu identifizieren, einschließlich Video und Audio. Das Unternehmen plant, KI-Bilder zu kennzeichnen, deren Herkunft Meta erkennen kann, einschließlich C2PA-markierter Bilder.

Meta wird Fotos, die mit seiner eigenen KI erstellt wurden, auch mit der Beschriftung „Imagined with AI“ versehen und unsichtbare Wassermacher darauf platzieren.

Dies wird eine fortlaufende Anstrengung sein und es wird einige Zeit dauern, bis Meta KI-Labels auf KI-generierte Inhalte anwenden kann.