• Der entlassene Forscher Leopold Aschenbrenner veröffentlichte einen 165-seitigen Essay über die Zukunft der KI.
• Aschenbrenners Abhandlung befasst sich mit dem schnellen Fortschritt der KI, den Sicherheitsimplikationen und den gesellschaftlichen Auswirkungen.
• Hier ist, was GPT-4 über Aschenbrenners Vorhersagen denkt.

In den letzten Monaten haben mehrere Mitarbeiter OpenAI verlassen, da sie Bedenken hinsichtlich des Sicherheitsbewusstseins des Unternehmens äußerten.

Außer markigen Ankündigungen ihres Ausstiegs aus X haben sie nicht viel darüber gesagt, warum sie über OpenAIs Entwicklungsansatz – oder die Zukunft der KI – besorgt sind.

Das galt bis Anfang dieser Woche, als Leopold Aschenbrenner, ein im April von OpenAI entlassener Forscher, seine Gedanken zur KI-Revolution in einer epischen 165-seitigen Abhandlung veröffentlichte.

Aschenbrenner arbeitete im Super-Alignment-Team von OpenAI — deren Aufgabe es war, KI-Risiken zu mindern.Aschenbrenner sagte, OpenAI habe ihn entlassen, weil er Informationen über die Bereitschaft des Unternehmens zur Entwicklung künstlicher allgemeiner Intelligenz durchsickern ließ.

Aschenbrenner seinerseits sagte, die von ihm weitergegebenen Informationen seien „völlig normal“ und OpenAI habe möglicherweise nur nach einem Grund gesucht, ihn zu entlassen. Er war einer von mehreren Mitarbeitern, die sich weigerten, einen Brief zu unterschreiben, in dem die Rückkehr von CEO Sam Altman gefordert wurde, nachdemDer Vorstand hat Altman letztes Jahr kurzzeitig abgesetzt.

Aschenbrenner’s essay doesn’tscheint, alsenthalten vertrauliche Details über OpenAI. Stattdessen basiert es, wie Aschenbrenner auf der Widmungsseite schreibt, auf „öffentlich verfügbaren Informationen, meinen eigenen Ideen, allgemeinem Fachwissen oder SF-Klatsch“.

Business Insider hochgeladender Weg zum GPT-4-Modell von OpenAI. Wir haben ihn gebeten, die Arbeit zusammenzufassen und die wichtigsten Erkenntnisse weiterzugeben. Wir haben den Bot auch höflich gebeten, seine Zusammenfassung klar und prägnant zu halten.

Hier ist ChatGPTs 57-Wörter-Zusammenfassung von Aschenbrenners Essay

chatgpt fasste den Aufsatz in 57 Wörtern zusammen, die Aschenbrenners Ansichten zur Entwicklung der KI darlegten.

„Leopold Aschenbrenners Aufsatz erörtert das transformative Potenzial künstlicher allgemeiner Intelligenz (AGI) und Superintelligenz und prognostiziert bedeutende Fortschritte in der KI-Technologie in naher Zukunft. Aschenbrenner, der früher mit OpenAI verbunden war, skizziert, wie der Fortschritt von aktuellen KI-Modellen wie GPT-4 zu AGI viel schneller erfolgen könnte als erwartet, basierend auf Trends bei der Rechenleistung und der algorithmischen Effizienz.“

ChatGPT präsentierte dann vier wichtige Erkenntnisse aus Aschenbrenner’s essay

Rasante Fortschritte in der KI

„Aschenbrenner argumentiert, dass sich die Entwicklung der KI in beispiellosem Tempo beschleunigt. Er prognostiziert, dass KI-Modelle bis 2027 die Fähigkeiten menschlicher KI-Forscher und -Ingenieure erreichen könnten, was möglicherweise zu einer Intelligenzexplosion führen könnte, bei der die KI die menschliche Intelligenz übertrifft.“

Wirtschaftliche und sicherheitspolitische Auswirkungen

„Der Aufsatz hebt die immensen wirtschaftlichen und sicherheitsrelevanten Auswirkungen dieser Fortschritte hervor. Aschenbrenner weist darauf hin, dass Billionen von Dollar in die Entwicklung der Infrastruktur investiert werden, die zur Unterstützung dieser KI-Systeme erforderlich ist, wie etwa GPUs, Rechenzentren und Stromerzeugung. Er betont auch die dringende Notwendigkeit, diese Technologien zu sichern, um Missbrauch, insbesondere durch staatliche Akteure wie die KPCh, zu verhindern.“

Technische und ethische Herausforderungen

„Technische und ethische Herausforderungen: Der Aufsatz erörtert die erheblichen Herausforderungen bei der Steuerung von KI-Systemen, die intelligenter sind als Menschen, und bezeichnet dies als das Problem der „Superausrichtung“. Die Bewältigung dieses Problems wird von entscheidender Bedeutung sein, um katastrophale Folgen zu verhindern.“

Prognosen und gesellschaftliche Auswirkungen

„Aschenbrenner meint, dass nur wenige Menschen das Ausmaß der Veränderungen, die KI mit sich bringen wird, wirklich verstehen. Er diskutiert das Potenzial der KI, Branchen umzugestalten, die nationale Sicherheit zu verbessern und neue ethische und politische Herausforderungen mit sich zu bringen.“

Es gibt mehr.

Wie Aschenbrenner schrieb, gibt es wahrscheinlich nur ein paar hundert Menschen, die meisten davon in KI-Laboren in San Francisco, die ein „Situationsbewusstsein“ über die Branche haben. Diese Leute werden wahrscheinlich den besten Einblick haben, wie KI die kommenden Jahre verändern wird.

Aschenbrenner ist einer von ihnen und scheint davon überzeugt zu sein, dass KI eine entscheidende Rolle für die nationale Sicherheit spielen wird.

Wir folgten unserer ursprünglichen Aufforderung, indem wir ChatGPT baten, die Vorhersagen zusammenzufassen, die Aschenbrenner in seinem Essay machte.

So hat ChatGPT es aufgeschlüsselt.

1. AGI bis 2027: „Aschenbrenner sagt voraus, dass künstliche allgemeine Intelligenz (AGI) bis 2027 erstaunlich plausibel ist, und betont dabei den schnellen Fortschritt von GPT-2 zu GPT-4, bei dem KI-Modelle in nur vier Jahren vom Vorschulniveau zu intelligenten Fähigkeiten von High-School-Schülern aufstiegen. Er erwartet in den nächsten Jahren einen ähnlichen Sprung, der auf stetigen Verbesserungen der Rechen- und Algorithmuseffizienz beruht.“
2. Superintelligenz nach AGI: „Nach der AGI erwartet der Autor eine „Intelligenzexplosion“, bei der die KI rasch vom menschlichen Niveau zu übermenschlichen Fähigkeiten übergeht. Dieser Übergang wird voraussichtlich durch die Fähigkeit der KI vorangetrieben, ihre eigene Forschung und Entwicklung zu automatisieren und zu beschleunigen.“
3. Billionen-Dollar-KI-Cluster: „Aus wirtschaftlicher Sicht geht Aschenbrenner davon aus, dass der KI-Sektor einen Anstieg der Investitionen in Billionen-Dollar-Computercluster erleben wird, da sich Unternehmen und Regierungen auf die Auswirkungen von AGI und Superintelligenz vorbereiten.“
4. Nationale und globale Sicherheitsdynamik: „Es gibt Vorhersagen, dass intensive nationale Sicherheitsmaßnahmen ergriffen werden, um die KI-Entwicklung zu steuern und zu kontrollieren. Der Wettbewerb, insbesondere mit der chinesischen Regierung, könnte sich verschärfen und möglicherweise zu einem ‚totalen Krieg‘ führen, wenn er nicht richtig gesteuert wird.“
5. Herausforderungen bei der Superausrichtung: „Eine der kritischsten Vorhersagen ist der Kampf mit der ‚Superausrichtung‘ – die Herausforderung, superintelligente KI mit menschlichen Werten und Interessen in Einklang zu bringen. Dieses Problem wird voraussichtlich eines der zentralen Hindernisse sein, wenn KI das Niveau menschlicher Intelligenz erreicht und übertrifft.“
6. Gesellschaftliche und wirtschaftliche Transformationen: „Aschenbrenner geht davon aus, dass KI tiefgreifende Auswirkungen auf die Gesellschaft und die Wirtschaft haben wird. Sie könnte zu einer Umstrukturierung der Industrie und des Arbeitsmarktes führen, da KI nun auch Aufgaben übernehmen kann, die derzeit von Menschen erledigt werden.“
7. Die Projektbeteiligung der US-Regierung: „Prognosen zufolge wird sich die US-Regierung bis etwa 2027–2028 durch ein spezielles AGI-Projekt maßgeblich an der KI-Entwicklung beteiligen, wahrscheinlich aufgrund der strategischen Bedeutung der KI-Technologie.“
8. Technologische Mobilisierung: „Er rechnet mit einer Mobilisierung technologischer und industrieller Ressourcen, die den historischen Kriegsbemühungen ähnelt, und konzentriert sich dabei auf die KI und die unterstützende Infrastruktur als Priorität der nationalen Politik.“

Hier ist die vollständige Eingabeaufforderung, die wir verwendet haben:

Rolle: Als Redakteur fungieren.

Aufgabe: Lesen Sie den beigefügten Essay über den ehemaligen OpenAI-Forscher Leopold Aschenbrenner.

Anweisungen:

• Fassen Sie den Aufsatz zusammen und heben Sie die wichtigsten Erkenntnisse hervor.
• Konzentrieren Sie sich auf wichtige Beiträge, Forschungsbereiche und alle bemerkenswerten Auswirkungen auf das Fachgebiet.
• Stellen Sie sicher, dass die Zusammenfassung präzise und dennoch umfassend ist und ein klares Verständnis von Aschenbrenners Arbeit und Einfluss vermittelt.