OpenAI kündigte am 20. Juli die vorzeitige Einstellung seines KI-Klassifizierungstools unter Berufung auf eine geringe Genauigkeit an. Das Unternehmen räumte ein, dass dieses Tool bei der Erkennung von KI-generierten Texten noch nie besonders gut war. Der Erfinder von chatgpt hatte vorab gewarnt, dass dieses Tool Fehlalarme liefern könnte, also von Menschen geschriebene Texte, die als von KI generiert gekennzeichnet sind. Allerdings hatte OpenAI auch darauf hingewiesen, dass sich der Klassifikator mit mehr Daten verbessern könnte.
OpenAI kann sein Versprechen nicht halten
Das Unternehmen arbeitet derzeit an der Integration von Feedback, um Provenienztechniken bei Texten effektiver zu machen. OpenAI plant außerdem „ Entwickeln und implementieren Sie Mechanismen, die es Benutzern ermöglichen zu verstehen, ob Audio- oder visuelle Inhalte KI-generiert sind “, obwohl die Details dieser Mechanismen noch nicht bekannt sind.
Die Einführung von ChatGPT hat in vielen Bereichen Angst ausgelöst, insbesondere im Bereich KI-generierter Text und Kunst. Vor allem Lehrkräfte befürchten, dass Schüler sich beim Verfassen ihrer Aufgaben auf ChatGPT verlassen, anstatt sich die Mühe zu machen, ihr Gelerntes zu verarbeiten. Schulen in New York haben sogar den Zugang zu ChatGPT für eine Weile verboten, gerade weil sie Bedenken hinsichtlich Genauigkeit, Sicherheit und Betrug hatten.
Besorgniserregend ist auch das Problem der Fehlinformation durch KI. Studien haben gezeigt, dass KI-generierte Texte wie Tweets überzeugender sein könnten als von Menschen geschriebene. Bisher haben die Regierungen nicht herausgefunden, wie sie die KI kontrollieren können, und überlassen es Gruppen und Organisationen, ihre eigenen Regeln festzulegen und ihre eigenen Schutzmaßnahmen gegen die Verbreitung computergenerierter Texte zu entwickeln.
Obwohl OpenAI sein aktuelles Klassifizierungstool eingestellt hat, ist das Unternehmen bestrebt, ein KI-generiertes Texterkennungstool zu entwickeln. Das Unternehmen hofft, seine verbesserten Methoden in Zukunft mit anderen teilen zu können, sucht jedoch in der Zwischenzeit nach Rückmeldungen dazu, ob solche fehlerhaften Tools hilfreich sein können. Es scheint, dass selbst OpenAI, das den Trend zur generativen KI entfacht hat, derzeit keine klaren Antworten darauf hat, wie mit diesen Herausforderungen umgegangen werden soll.
