Die Macher von chatgpt haben eine unheimliche neue KI enthüllt, die Ihre Stimme mit nur 15 Sekunden Sample klonen kann.

OpenAI hat frühe Clips geteilt, von denen die Chefs behaupten, dass sie „emotionale und realistische Stimmen“ erzeugen können.

Das Unternehmen räumt jedoch ein, dass seine Technologie angesichts der bevorstehenden Wahlen in den USA und im Vereinigten Königreich in den Händen der Öffentlichkeit derzeit zu riskant ist.

Experten befürchten, dass Russland, China und Nordkorea bereits daran arbeiten, die Präsidentschaftswahlen zu manipulieren, indem sie ihre eigene betrügerische KI und Deepfakes einsetzen, um die Ergebnisse zu manipulieren.

Wir sind uns bewusst, dass das Erzeugen von Reden, die den Stimmen der Menschen ähneln, ernsthafte Risiken birgt, die im Wahljahr besonders im Vordergrund stehen

OpenAI

Selbst der 52-jährige Milliardär Elon Musk, der rechtliche Schritte gegen OpenAI eingeleitet hat, glaubt, dass KI eine der größten Bedrohungen für die Menschheit darstellen könnte.

OpenAI hat der Welt bereits gezeigt, wie es mit ChatGPT in Sekundenschnelle Text sowie Bilder und neuerdings auch Videos generieren kann.

Jetzt geht das Unternehmen noch einen Schritt weiter und gibt bekannt, dass es Ende letzten Jahres begonnen hat, privat eine sogenannte „Voice Engine“ zu testen.

Trotz der Bedenken setzte OpenAI die Entwicklung fort, um zu sehen, wie das Tool „für den Guten genutzt“ werden könnte.

Es wurden mehrere Beispiele genannt, etwa die Unterstützung von Kindern oder Menschen, die nicht lesen können, mit „natürlich klingenden, emotionalen Stimmen“.

Ein anderer zeigt, wie die Technologie einer Person helfen könnte, die aufgrund eines vaskulären Hirntumors ihre flüssige Stimme verloren hat.

Laut OpenAI konnten Ärzte die Stimme eines jungen Patienten mithilfe von 15 Sekunden Audio aus einer alten Videoaufzeichnung wiederherstellen.

Die erschreckend präzise KI kann sogar die Stimme und Dialoge einer Person in verschiedene Sprachen übersetzen, die immer noch wie sie klingen.

Derzeit sagt OpenAI, dass es sich „für eine Vorschau, aber keine breite Veröffentlichung dieser Technologie“ entscheidet.

„Wir hoffen, dass diese Vorschau von Voice Engine sowohl sein Potenzial unterstreicht als auch die Notwendigkeit motiviert, die gesellschaftliche Widerstandsfähigkeit gegenüber den Herausforderungen zu stärken, die durch immer überzeugendere generative Modelle entstehen“, schrieb das Unternehmen in einem Blogbeitrag.

„Wir sind uns bewusst, dass die Erzeugung von Reden, die den Stimmen der Menschen ähneln, ernsthafte Risiken birgt, die im Wahljahr besonders im Vordergrund stehen.“

Es wird außerdem darauf hingewiesen, dass die ersten Voice Engine-Tester zugestimmt haben, sich nicht ohne deren Zustimmung als eine Person auszugeben und offenzulegen, dass die Stimmen KI-generiert sind.

Eine am 19. März eingereichte Markenanmeldung deutet darauf hin, dass OpenAI möglicherweise einen Einstieg in das Geschäft mit Spracherkennung und digitalen Sprachassistenten plant, um mit Unternehmen wie Alexa zu konkurrieren.