OpenAI führt eine breitere Verfügbarkeit seines neuesten Text-zu-Bild-Generators ein. Am Donnerstag gewährt das Unternehmen chatgpt Plus- und Enterprise-Kunden Zugriff auf das neue DALL-E 3-Modell, das in der ChatGPT-App funktioniert. OpenAI gibt an, einen Sicherheits-Minderungsstapel für das Modell vorbereitet zu haben, der es für eine erweiterte Veröffentlichung bereit macht.
DALL-E 3 wurde letzten Monat erstmals angekündigt, und OpenAI zeigte, wie es sich gegenüber dem vorherigen DALL-E 2 verbesserte, indem es Benutzern ermöglichte, ChatGPT zu nutzen, um längere und visuell anschaulichere Eingabeaufforderungen zu schreiben, die sie an den Bildgenerator weiterleiten. DALL-E 3 wurde zu Bing Chat und Bing Image Generator hinzugefügt, wodurch Microsofts Plattform die erste war, die einen breiteren öffentlichen Zugang zu dem Modell einführte – noch vor ChatGPT.
Die beworbenen Leitplanken zur Eindämmung schädlicher Bilder haben nicht immer funktioniert, da Benutzer Bilder des World Trade Centers erstellten, während SpongeBob Schwammkopf und andere Charaktere Flugzeuge auf die Gebäude zusteuerten. Selbst nachdem Microsoft bestimmte Eingabeaufforderungen blockiert hatte, führten andere einfache Problemumgehungen zu ähnlichen Ergebnissen.
Text-zu-Bild-Generatoren wie midjourney, Stable Diffusion und ältere DALL-E-Iterationen haben alle einige Kontroversen hervorgerufen. Die Technologie hat urheberrechtlich geschütztes Bildmaterial, nicht einvernehmliche Aktaufnahmen, veränderte ethnische Zugehörigkeit von Motiven und fotorealistische Falschdarstellungen von Persönlichkeiten des öffentlichen Lebens ausgegeben.
OpenAI verspricht, dieses Mal weitaus umfangreichere Schritte unternommen zu haben, und das ist auch der Fall Bereitstellung einer Website Das zeigt die in DALL-E 3 gesteckte Forschung. Das Unternehmen sagt, es werde „die Wahrscheinlichkeit des Modells begrenzen, Inhalte im Stil lebender Künstler und Bilder von Persönlichkeiten des öffentlichen Lebens zu generieren und die demografische Darstellung über die generierten Bilder hinweg verbessern.“ OpenAI verfügt außerdem über ein internes Tool zur „Herkunftsklassifizierung“, das angeblich mit einer Genauigkeit von 99 Prozent erkennen kann, ob ein Bild von DALL-E 3 generiert wurde.
