Mehr als 1.100 Unterzeichner, darunter Elon Musk, Steve Wozniak und Tristan Harris vom Center for Humane Technology, haben einen offenen Brief unterzeichnet, der am Dienstagabend online gestellt wurde und in dem „alle KI-Labore aufgefordert werden, das Training sofort für mindestens 6 Monate zu unterbrechen von KI-Systemen leistungsfähiger als GPT-4.“

Der Brief lautet:

Zeitgenössische KI-Systeme werden nun bei allgemeinen Aufgaben menschen-konkurrenzfähig,[3] und wir müssen uns fragen: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten? Sollten wir alle Jobs wegautomatisieren, einschließlich der erfüllenden? Sollten wir nichtmenschliche Köpfe entwickeln, die uns schließlich zahlenmäßig übertreffen, überlisten, obsolet machen und ersetzen könnten? Sollten wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren? Solche Entscheidungen dürfen nicht an nicht gewählte Technologieführer delegiert werden. Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Wirkung positiv und ihre Risiken überschaubar sind.

In dem Brief wird argumentiert, dass es ein „Planungs- und Managementniveau“ gibt, das „nicht stattfindet“, und dass stattdessen in den letzten Monaten unbenannte „KI-Labore“ „in einen außer Kontrolle geratenen Wettlauf um die Entwicklung und Bereitstellung gesperrt wurden“. immer mächtigere digitale Köpfe, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren können.“

Der Unterzeichner des Briefes, von denen einige KI-Experten sind, sagen, dass die Pause, um die sie bitten, „öffentlich und überprüfbar sein und alle Schlüsselakteure einbeziehen sollte“. Wenn diese Pause „nicht schnell erlassen werden kann, sollten die Regierungen eingreifen und ein Moratorium einführen“, heißt es in dem Brief.

Sicherlich ist der Brief sowohl wegen der Unterzeichner interessant – darunter einige Ingenieure von Meta und Google, der Gründer und CEO von Stability AI, Emad Mostaque, als auch Leute, die nicht in der Technik tätig sind, darunter ein selbsternannter Elektriker und ein Kosmetiker – und solche die nicht haben. Niemand von OpenAI, dem Outfit hinter dem großen Sprachmodell GPT-4, hat beispielsweise diesen Brief unterschrieben. Auch niemand von Anthropic, dessen Team aus OpenAI hervorgegangen ist, um ein „sicherer” KI-Chatbot.

Mittwoch, OpenAI-CEO Sam Altman sprach mit dem WSJ, die besagt, dass OpenAI noch nicht mit dem Training von GPT-5 begonnen hat. Altman bemerkte auch, dass das Unternehmen der Sicherheit in der Entwicklung seit langem Priorität einräumt und mehr als sechs Monate damit verbracht hat, Sicherheitstests mit GPT-4 vor seiner Markteinführung durchzuführen. „In gewisser Weise predigt dies dem Chor“, sagte er dem Journal. „Wir haben, glaube ich, am längsten am lautesten, mit der größten Intensität über diese Themen gesprochen.“

In der Tat, Altmann setzte sich mit diesem Herausgeber im Januar, wo er argumentierte, dass „das Starten dieser [product releases] Jetzt [makes sense]wo immer noch relativ wenig auf dem Spiel steht, anstatt nur das zu veröffentlichen, was die gesamte Branche in ein paar Jahren haben wird, ohne dass die Gesellschaft Zeit hat, sich zu aktualisieren.“

Altman hat sich kürzlich mit dem Informatiker und beliebten Podcaster Lex Fridman zusammengesetzt gesprochen über seine Beziehung zu Musk, der Mitbegründer von OpenAI war, sich aber 2018 aus der Organisation zurückzog und Interessenkonflikte anführte. (Ein neuerer Bericht des Outlets Semafor besagt, dass Musk gegangen ist, nachdem sein Angebot, OpenAI zu betreiben, war abgewiesen von seinen anderen Mitbegründern, darunter Altman, der Anfang 2019 die Rolle des CEO übernahm.)

Musk ist vielleicht der am wenigsten überraschende Unterzeichner dieses offenen Briefes, wenn man bedenkt, dass er darüber gesprochen hat KI-Sicherheit seit vielen Jahren und hat sich in letzter Zeit speziell auf OpenAI konzentriert, was darauf hindeutet, dass das Unternehmen nur redet und nichts tut. Fridman fragte Altman nach Musks jüngsten und routinemäßigen Tweets die Organisation verprügeln. Sagte Altman: „Elon greift uns offensichtlich gerade auf Twitter auf einigen verschiedenen Vektoren an, und ich habe Empathie, weil ich glaube, dass er – verständlicherweise – wirklich gestresst über die Sicherheit von AGI ist. Ich bin mir sicher, dass es noch einige andere Motivationen gibt, aber das ist definitiv eine davon.“

Trotzdem, fügte Altman hinzu, finde er einiges von Musks Verhalten verletzend. „Ich bin definitiv mit Elon als meinem Helden aufgewachsen. Weißt du, obwohl er auf Twitter oder was auch immer ein Idiot ist, bin ich froh, dass er auf der Welt existiert. Aber ich wünschte, er würde mehr tun, um sich die harte Arbeit anzusehen, die wir leisten, um dieses Zeug richtig hinzubekommen.“

Wir verdauen diesen Brief immer noch (andere schon es in Fetzen reißen).

In der Zwischenzeit können Sie lesen Sie es hier vollständig.