Dieses von Ilya Sutskever gegründete Team, das kürzlich von OpenAI zurückgetreten ist, war dafür verantwortlich, dass die künstliche Intelligenz unter Kontrolle blieb.
Ihr Ziel war es, sicherzustellen, dass der Mensch die Kontrolle über die Maschine behält. Doch nur ein Jahr nach seiner Gründung wurde das „Superalignment“-Team von OpenAI aufgelöst, heißt es eine Quelle in der Nähe des Falles auf dem amerikanischen Fernsehsender CNBC. Ein Team, das damit dafür verantwortlich war, die Risiken künstlicher Intelligenz langfristig abzuschätzen und zu antizipieren.
Laut derselben Quelle wurden einige Mitglieder des Teams „mehreren anderen Teams innerhalb des Unternehmens zugewiesen“. Informationen, die von OpenAI nicht kommentiert oder bestätigt wurden.
Diese Ankündigung folgt auf den jüngsten Rücktritt des Mitbegründers des Unternehmens. Letzten Mittwoch gab Ilya Sutskever auf X (ehemals Twitter) bekannt Büro verlassen nach fast zehn Jahren bei OpenAI. „Die Entwicklung des Unternehmens war geradezu wundersam, und ich bin zuversichtlich, dass OpenAI künstliche allgemeine Intelligenz aufbauen wird, die sowohl sicher als auch nützlich ist“, fügte er hinzu.
Führen, regulieren und regieren
Auf einer TED-Konferenz zum Thema KI in San Francisco im vergangenen Jahr sagte er, dass „digitale Gehirne so gut wie möglich werden.“ sogar besser als unseres„. Und genau um dies zu verhindern, wurde das Team „Superalignment“ gegründet.
Im Juli 2023 konzentrierten sich OpenAI und Ilya Sutskever auf das heikle Thema der Kontrolle von KI, die intelligenter ist als Menschen. Um dies zu erreichen, hatten sie dieses Team ins Leben gerufen, um die verschiedenen Systeme der künstlichen Intelligenz zu steuern und zu regulieren. Das Programm hatte ein Budget von 10 Millionen US-Dollar.
„Dies ist ein ehrgeiziges Ziel und wir können nicht garantieren, dass wir es erreichen. Nur eine gezielte und konzertierte Anstrengung kann das Problem der zu intelligenten KI lösen“, versicherte SO das OpenAI-Kommuniqué.
Das Team wurde von Ilya Sutskever geleitet und durch Jan Leike, einen der Chefforscher von OpenAI, ersetzt (der ebenfalls bekannt gab). sein Ausscheiden aus dem Unternehmen).
Während seiner letzten Konferenz stellte das amerikanische Unternehmen chatgpt-4o vor. Eine neue Version seines Star-Chatbots, zugänglich für jedermann. Es könne wie ein Mensch chatten, Diskussionen sofort übersetzen und einen Videostream in Echtzeit kommentieren und sei „stärker und schneller“ als sein Vorgänger, versichert das Unternehmen.
