OpenAI, das Start-up hinter den berühmten Tools für generative künstliche Intelligenz (KI). chatgpt und DALL-E ermöglicht es Forschern nun, sein Tool zu testen, mit dem festgestellt werden soll, ob digitale Bilder von KI-Programmen erstellt wurden.
Die Authentifizierung von Online-Inhalten ist mit der Explosion der generativen KI zu einem Hauptproblem geworden, das auf Anfrage alle Arten von Inhalten produzieren kann – darunter zum Beispiel gefälschte Fotos von Menschen oder gefälschte Audioaufnahmen für Betrugszwecke.
OpenAI erklärte, dass es ein Programm zur Erkennung von Bildern entwickelt habe, die von DALL-E 3 generiert wurden.
Laut internen Tests mit einer früheren Version des Tools, „Es identifiziert etwa 98 % der DALL-E 3-Bilder korrekt. Weniger als 0,5 % der nicht von der KI generierten Bilder wurden fälschlicherweise DALL-E 3 zugeordnet.“ Das teilte das kalifornische Unternehmen in einer Online-Erklärung mit.
Das größtenteils von Microsoft finanzierte Start-up gab jedoch an, dass sein Programm weniger effizient sei, wenn mit DALL-E 3 erstellte Bilder nachträglich retuschiert würden oder wenn sie von anderen Modellen generiert würden.
OpenAI kündigte außerdem an, dass es nun Wasserzeichen zu KI-Bildern hinzufügen wird, um die Standards der Coalition for Content Provenance and Authenticity (C2PA) zu erfüllen.
C2PA ist eine Initiative der Technologiebranche, die technische Standards zur Bestimmung der Herkunft und Authentizität digitaler Inhalte festlegt.
Letzten Monat gab die Meta Group (Facebook, Instagram) bekannt, dass sie ab Mai mit der Kennzeichnung von KI-generierten Inhalten nach dem C2PA-Standard beginnen werde. Auch sein Nachbar google hat sich der Initiative angeschlossen.
MIT AFP
Die meisten Neuigkeiten finden Sie auf unserem Tiktok-Konto.
