GENF (AP) — Sam Altman, CEO von OpenAI, war am Donnerstag Starredner bei der jährlichen Konferenz „AI for Good“. Auf der jährlichen Versammlung der UN-Telekommunikationsagentur sprach er darüber, wie das gesellschaftliche Potenzial der künstlichen Intelligenz ausgeschöpft werden kann.

Aber Altman verbrachte einen Teil seines virtuellen Auftritts damit, heikle Fragen über Governance abzuwehren, eine Kontroverse um KI-Stimmen und Kritik von abgesetzten Vorstandsmitgliedern.

Altmans Auftritt, um über die Vorteile künstlicher Intelligenz zu sprechen, erfolgt zu einem Zeitpunkt, da sein Unternehmen mit einer wachsenden Welle von Bedenken hinsichtlich seiner Geschäftspraktiken und seines Umgangs mit der Sicherheit künstlicher Intelligenz zu kämpfen hat.

Er war einer der führenden Technologievertreter, die an dem Treffen in Genf teilnahmen. Bei der zweitägigen Veranstaltung werden Reden und Gespräche über die Anwendungsmöglichkeiten künstlicher Intelligenz in den Bereichen Robotik, Medizin, Bildung, nachhaltige Entwicklung und mehr gehalten.

Die jüngste Welle der Unzufriedenheit bei OpenAI fiel mit der Präsentation des neuen Produkts des Unternehmens Anfang Mai zusammen, die den Zorn des Hollywood-Stars Scarlett Johansson auf sich zog. Sie sagte, sie sei schockiert gewesen, als sie hörte, dass ChatGPTs Stimme ihrer eigenen „unheimlich ähnlich“ klang, obwohl sie zuvor Altmans Bitte abgelehnt hatte, dem System ihre Stimme zu leihen.

Altman sprach in einem Interview mit Nicholas Thompson, CEO von The Atlantic, ausführlich über Themen im Zusammenhang mit KI. Er vermied jedoch die Beantwortung von Fragen zu einigen sensiblen Themen, wie etwa der Erklärung, warum der chatgpt-Entwickler eine Schauspielerstimme verwendete, die der von Johansson ähnelte.

„Das ist nicht ihre Stimme. Das soll es auch nicht sein. Es tut mir leid, dass Sie für Verwirrung gesorgt haben. Offensichtlich denken Sie, dass es so ist“, sagte Altman und merkte an, dass die Leute unterschiedliche Meinungen darüber haben, wie ähnlich sich Stimmen anhören.

„Ich weiß nicht, was ich sonst noch sagen soll“, fügte Altman hinzu. Thompson, dessen Magazin einen Tag zuvor einen Produkt- und Inhaltsvertrag mit OpenAI abgeschlossen hatte, antwortete nicht weiter.

Später befragte er Altman zur Governance bei OpenAI, einschließlich einer Idee für ein Governance-Board.

„Wir reden weiterhin darüber, wie wir Governance umsetzen. Mehr sollte ich jetzt wahrscheinlich nicht sagen“, sagte Altman.

„Sagen Sie etwas mehr“, antwortete Thompson und erntete Lacher aus dem Publikum.

„Ich werde passen. Es tut mir leid“, antwortete Altman.

Die Aufsicht über große KI-Unternehmen wie OpenAI ist ein zunehmend hitziges Thema. Kurz nach der Johansson-Kontroverse sagte der scheidende Forscher Jan Leike, das Unternehmen lasse die Sicherheit „hinter glänzenden Produkten zurückstehen“ und verwies auf Meinungsverschiedenheiten mit der Unternehmensspitze, die einen „Knackpunkt“ erreicht hätten.

Leikes Abgang erfolgte Tage nach dem Mitbegründer Ilya Sutskever hat aufgehört. Die beiden leiteten gemeinsam das „Superalignment“-Team von OpenAI, dessen Mittelpunkt die Gründungsmission der Organisation war, eine bessere KI als der Mensch zu entwickeln, die als künstliche allgemeine Intelligenz oder AGI bekannt ist. Dieses Team wurde inzwischen aufgelöst und durch ein anderes Sicherheitskomitee ersetzt.

Thompson fragte nach Kommentaren von Helen Toner, einer Forscherin an der Georgetown University, die zu einer Gruppe von OpenAI-Vorstandsmitgliedern gehörte, die letztes Jahr nach einem chaotischer Machtkampf mit Altman. Toner, der einer Gruppe angehört, die Vorbehalte gegenüber Sicherheitsrisiken durch KI hegt, kritisierte Altman in einem Podcast dafür, dass er Informationen zurückhalte, die Geschehnisse bei OpenAI falsch darstelle oder „schlichtweg lüge“.

In einem Beispiel sagte sie, als ChatGPT im November 2022 veröffentlicht wurde, „wurde der Vorstand nicht im Voraus darüber informiert. Wir haben auf Twitter von ChatGPT erfahren.“

„Ich stimme ihrer Erinnerung an die Ereignisse nicht zu“, sagte Altman. Toner „ist wirklich an einem guten AGI-Ergebnis interessiert, und das schätze ich an ihr und wünsche ihr alles Gute. Ich möchte hier wahrscheinlich nicht Zeile für Zeile eine Widerlegung vornehmen.“

OpenAI reitet auf einer neuen Welle der generativen KI-Technologie, die vor 18 Monaten ins Blickfeld der Öffentlichkeit geriet, als es ChatGPT auf den Markt brachte, ein frühes Highlight unter KI-Systeme die auf der Grundlage einer riesigen Datenbank mit Online-Schriften, Büchern und anderen Medien neuartige Texte, Bilder und Videos produzieren. Andere Unternehmensgiganten und KI-Startups haben seitdem ihre Versionen dieser Technologie auf den Markt gebracht.

Auch wenn die „AI for Good“-Bemühungen der UN schon vor dem jüngsten Hype um generative KI stattfanden, haben die schnelle Weiterentwicklung und Kommerzialisierung der Technologie weltweite Aufmerksamkeit erregt.

„Künstliche Intelligenz verändert unsere Welt und unser Leben“, sagte UN-Generalsekretär António Guterres in einem Video und verwies auf die damit verbundenen Potenziale für Bildung und Gesundheitsversorgung in abgelegenen Gebieten, die Steigerung der Ernteerträge und Frühwarnsysteme bei Naturkatastrophen.

Politische Entscheidungsträger auf der ganzen Welt sind besonders besorgt über KI-Tools, die die Verbreitung von Desinformationen im Internet beschleunigen könnten: Mit ein paar eingetippten Befehlen und Anfragen können computergenerierte Texte und Bilder in den sozialen Medien und im gesamten Internet verbreitet werden – wodurch die Grenze zwischen Fake News und Realität verschwimmt.

„Um ihr Potenzial in die Tat umzusetzen, bedarf es einer KI, die Voreingenommenheit, Fehlinformationen und Sicherheitsbedrohungen reduziert, anstatt sie zu verschärfen“, sagte Guterres und betonte, dass es dabei auch darum gehen müsse, den Entwicklungsländern dabei zu helfen, „KI für sich selbst zu nutzen“ und „die Unvernetzten“ auf der ganzen Welt zu vernetzen.

——

Chan berichtete aus London. AP-Technologiejournalist Matt O'Brien in Providence, Rhode Island, hat zu diesem Bericht beigetragen.

—–

Die Associated Press und OpenAI haben ein Lizenz- und Technologievertrag das OpenAI Zugriff auf einen Teil der Textarchive von AP ermöglicht.

—-

Diese Geschichte wurde korrigiert, um anzuzeigen, dass Thompsons Titel CEO und nicht Herausgeber von The Atlantic ist.