Der von Microsoft unterstützte chatgpt-Hersteller OpenAI hat kürzlich sein Voice-Cloning-Tool namens Voice Engine vorgestellt. Das Unternehmen behauptet, dass das Tool die Stimme einer Person mit nur 15 Sekunden Aufnahme des Gesprächs dieser Person nachbilden kann. Allerdings macht ChatGPT die Technologie vorerst nicht live. Grund: Es besteht die Gefahr eines Missbrauchs, insbesondere angesichts der Tatsache, dass in diesem Jahr weltweit in über 20 Ländern Wahlen anstehen. „Wir sind uns der ernsthaften Risiken bewusst, die mit dieser Technologie verbunden sind, insbesondere während der Wahlsaison“, erklärte OpenAI in einer Pressemitteilung. Diese Besorgnis rührt von jüngsten Ereignissen wie KI-generierten Robocalls her, die Präsident Biden bei den Vorwahlen in New Hampshire nachahmen. „Wir arbeiten mit US-amerikanischen und internationalen Partnern aus den Bereichen Regierung, Medien, Unterhaltung, Bildung, Zivilgesellschaft und darüber hinaus zusammen, um sicherzustellen, dass wir ihr Feedback in unsere Entwicklung einbeziehen“, fügte das Unternehmen hinzu. OpenAI sagte, dass die ersten Voice Engine-Tester zugestimmt hätten, sich nicht ohne deren Zustimmung als eine Person auszugeben und offenzulegen, dass die Stimmen KI-generiert seien. OpenAI ist nicht das erste Unternehmen im Bereich des Stimmenklonens, aber ihr Fokus auf verantwortungsvollen Einsatz zeichnet sie aus. Erste Tester unterliegen strengen Richtlinien, einschließlich der Einholung einer Einwilligung, bevor sie sich als jemand ausgibt, und der Offenlegung der synthetischen Natur der Stimmen. Dies spiegelt ihre Strategie mit dem unveröffentlichten Videogenerierungstool Sora wider. Trotz der derzeitigen Sperrung des öffentlichen Zugangs deutet die Markenanmeldung von OpenAI für Voice Engine auf zukünftige Ambitionen hin. Die Anwendung deutet auf den Plan des Unternehmens hin, in den Bereich der Spracherkennung zu expandieren und möglicherweise einen digitalen Sprachassistenten zu entwickeln – ein Schritt, der das Unternehmen als Konkurrenten auf dem Markt positionieren könnte, der von Produkten wie Amazons Alexa dominiert wird.