Anfang März stellte das von Microsoft unterstützte OpenAI GPT-4 vor, das Benutzer mit seinem breiten Anwendungsspektrum begeisterte, von der Beteiligung der Benutzer an menschenähnlichen Gesprächen über das Komponieren von Liedern bis hin zum Zusammenfassen langer Dokumente.

Angesichts der rasanten Entwicklung hat eine Gruppe von Experten für künstliche Intelligenz und Branchenführern, darunter Elon Musk, einen offenen Brief unterzeichnet, in dem sie eine Pause in der Entwicklung fortschrittlicher KI fordern, bis Sicherheitsprotokolle verfügbar sind von unabhängigen Experten geprüft.

Leistungsfähige KI-Systeme sollten erst dann entwickelt werden, wenn wir davon überzeugt sind, dass ihre Auswirkungen positiv und ihre Risiken beherrschbar sind“, heißt es in dem Brief.

Der Brief beschreibt die potenziellen Risiken für Gesellschaft und Zivilisation, die konkurrierende KI-Systeme für den Menschen in Form wirtschaftlicher und politischer Störungen darstellen, und fordert Entwickler auf, mit politischen Entscheidungsträgern bei der Governance und den Regulierungsbehörden zusammenzuarbeiten.

Gesendet von Offener Brief

Zeitgenössische KI-Systeme werden nun für allgemeine Aufgaben konkurrenzfähig, und wir müssen uns die Frage stellen: Sollten wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Lügen überfluten? Sollten wir alle Jobs automatisieren, auch die lohnenden? Müssen wir nichtmenschliche Geister entwickeln, die eines Tages zahlreicher, intelligenter und veralteter sein und uns ersetzen könnten? Sollten wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren? Diese Entscheidungen sollten nicht an nicht gewählte Technologieführer delegiert werden. Leistungsfähige KI-Systeme sollten nur dann entwickelt werden, wenn wir davon überzeugt sind, dass ihre Auswirkungen positiv und ihre Risiken beherrschbar sind. Dieses Vertrauen muss gut begründet sein und mit der Größe der potenziellen Auswirkungen eines Systems zunehmen. Die jüngste Stellungnahme von OpenAI zur allgemeinen künstlichen Intelligenz weist darauf hin, dass es „irgendwann wichtig sein kann, eine unabhängige Überprüfung einzuholen, bevor mit dem Training zukünftiger Systeme begonnen wird, und für fortgeschrittenere Bemühungen zu vereinbaren, die Wachstumsrate der Berechnungen zu begrenzen, die zur Erstellung neuer Modelle verwendet werden.“ „. Sind wir uns einig. Jetzt ist es an der Zeit zu handeln.

Siehe auch  Das Europäische Parlament stimmt für eine bessere Regulierung von ChatGPT

Aus diesem Grund fordern wir alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort und für mindestens sechs Monate einzustellen. Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen. Wenn eine solche Pause nicht schnell eingeführt werden kann, sollten die Regierungen eingreifen und ein Moratorium verhängen.

Insgesamt gibt es mehr als 1.000 Mitunterzeichner, darunter Emad Mostaque, CEO von Stability AI, Forscher von Alphabets DeepMind und KI-Schwergewicht Yoshua Bengio, der oft als einer der „Paten der KI“ gilt, und Stuart Russell, Pionier der Forschung in diesem Bereich.

Als er eine Pause in der KI-Entwicklung von OpenAI forderte, bereitete Elon Musk seine Antwort vor

Das sagt uns der New Yorker. Laut der Tageszeitung arbeitete Musk im April, einen Monat nach der Veröffentlichung des offenen Briefes, in dem er um eine Pause in der Entwicklung von ChatGPT bat, bereits am Aufbau von xAI, rekrutierte bei großen Konkurrenten, darunter OpenAI, und sogar, wie jemand weiß des Gesprächs kontaktierte er das Management von Nvidia, dem Haupthersteller von Chips für die KI.

In dem Monat, in dem der Brief veröffentlicht wurde, schloss Musk die Registrierungen für xAI ab. Er sagte wenig darüber, wie sich das Unternehmen von bereits bestehenden KI-Initiativen unterschied, sondern formulierte sie im Allgemeinen im Hinblick auf den Wettbewerb. „Ich werde eine dritte Option schaffen, auch wenn sie erst sehr spät im Spiel eingeführt wird“, sagte er gegenüber der Washington Post. Ich hoffe, dass diese dritte Option mehr nützt als schadet. Dank KI. Aufgrund der bereits laufenden Forschung und Entwicklung bei Tesla und der Datenmine, die er jetzt über Twitter kontrolliert (zu der er den Zugang von OpenAI unter dem Vorwand blockiert hat, dass Letzteres Daten sammelt, um seinen Chatbot zu trainieren), könnte er einen gewissen Vorteil haben, denn er bewirbt sich seine Sensibilitäten und seine Vision der Welt. dieser Kurs.

Kurz darauf bestätigte Musk, dass er etwas bauen wollte, das er TruthGPT nennt und das er als „maximal wahrheitssuchende KI, die versucht, die Natur des Universums zu verstehen“ beschrieb.

Im Juli kündigte Musk laut seiner Website die Schaffung von xAI an, das edel darauf abzielt, die wahre Natur des Universums zu verstehen.

Auf der xAI-Website ist ein 12-köpfiges Team, darunter Musk, mit Links zu ihren Twitter-Konten vertreten. Die Website rühmt sich ihrer Erfolge und vollständigen Lebensläufe: Unser Team wird von Elon Musk, CEO von Tesla und SpaceX, geleitet. Zuvor haben wir bei DeepMind, OpenAI, google Research, Microsoft Research, Tesla und der University of Toronto gearbeitet. Gemeinsam haben wir einige der am weitesten verbreiteten Methoden in diesem Bereich beigesteuert: []. Wir haben an einigen der größten Fortschritte in diesem Bereich gearbeitet und deren Entwicklung geleitet, darunter AlphaStar, AlphaCode, Inception, Minerva, GPT-3.5 und GPT-4.

Ein mehrjähriges Engagement im Bereich KI

Musk beschäftigt sich seit Jahren mit künstlicher Intelligenz. Im Jahr 2015 gehörte er zu einer Handvoll Technologieführern, darunter Hoffman und Thiel, die OpenAI finanzierten, damals eine gemeinnützige Initiative (denken Sie daran, dass OpenAI jetzt eine gewinnorientierte Tochtergesellschaft hat). OpenAI hatte ein weniger grandioses und vorsichtigeres Leitbild als xAI: die digitale Intelligenz auf eine Weise voranzutreiben, die der Menschheit am ehesten zugute kommt.

In den Anfangsjahren von OpenAI wurde Musk zunehmend unzufrieden mit dem Unternehmen. Er sagte, seine Bemühungen bei Tesla, KI zu integrieren, hätten einen Interessenkonflikt geschaffen, und mehrere Beteiligte sagten den Medien, dass dies wahr sei. Sie sagten jedoch auch, Musk sei frustriert über die mangelnde Kontrolle und habe, wie Semafor Anfang des Jahres berichtete, versucht, OpenAI zu übernehmen. Musk verteidigt immer noch seinen zentralen Platz in den Ursprüngen des Unternehmens und verweist auf seine frühen finanziellen Beiträge (genaue Zahlen sind unklar: Musk hat Schätzungen zwischen fünfzig und einhundert Millionen Dollar abgegeben).

Während seines gesamten Engagements schien Musk mit Kontrolle, Kredit und Rivalitäten beschäftigt zu sein. Er machte hetzerische Bemerkungen über Demis Hassabis, Leiterin von Googles DeepMind AI und später über konkurrierende Bemühungen bei Microsoft. Er war der Meinung, dass OpenAI nicht wettbewerbsfähig genug sei, und sagte seinen Kollegen einmal, dass die Chance, relevant zu sein, bei 0 % liege. Musk verließ das Unternehmen im Jahr 2018 und brach damit seine Zusage, OpenAI weiter zu finanzieren, erklärte einer der Beteiligten.

Im Grunde sagt er: ‚Ihr seid alle ein Haufen Idioten‘ und geht“, sagte Hoffman. Sein Abgang war verheerend. Es sei sehr schwierig gewesen, gab Altman, Leiter von OpenAI, zu. Ich musste einen Großteil meines Lebens und meiner Zeit darauf verwenden, sicherzustellen, dass wir über genügend finanzielle Mittel verfügten. OpenAI wurde durch die Einführung von ChatGPT im vergangenen Jahr zum Marktführer auf diesem Gebiet. Musk hat es sich zur Gewohnheit gemacht, das Unternehmen zu ruinieren, und hat sich in öffentlichen Interviews immer wieder gefragt, warum er angesichts des gewinnorientierten Zweigs des Unternehmens keine Rendite für seine Investition erhalten hat. Wenn es legal ist, warum macht es dann nicht jeder? er hat kürzlich getwittert.

Es ist schwer zu sagen, ob Musks Interesse an der K.I. wird durch wissenschaftliches Staunen und Altruismus motiviert oder durch den Wunsch, eine neue und potenziell mächtige Industrie zu dominieren. Mehrere Unternehmer, die zusammen mit Musk Unternehmen gegründet haben, haben angedeutet, dass die Ankunft von Google und Microsoft in diesem Bereich einen neuen Ring geschaffen hat, wie es früher Raumfahrt- und Elektrofahrzeuge waren.

Musk sagte, er sei von der Angst vor dem zerstörerischen Potenzial der Technologie getrieben worden.

Im Jahr 2019 nutzte Musk seinen Auftritt auf der South by Southwest (SXSW)-Konferenz, die in Austin, Texas, stattfand, um seine Warnungen vor der Gefahr künstlicher Intelligenz zu wiederholen. Laut Musk ist KI gefährlicher als Atomsprengköpfe und es sollte eine Regulierungsbehörde geben, die die Entwicklung dieser Technologie überwacht.

„Normalerweise bin ich kein Fan von Regulierung und Aufsicht – ich denke, man sollte generell eher dazu tendieren, diese Dinge zu minimieren, aber dies ist eine Situation, in der die Öffentlichkeit in großer Gefahr ist“, warnte Musk.

Quelle: New Yorker

Und du ?

Was ist Ihre Meinung zu Musks Projekt und seinen Beweggründen? Doppeltes Spiel oder gar nicht? Was halten Sie von der Tatsache, dass er einen Monat, nachdem er das Unternehmen gebeten hatte, die Entwicklung von chatGPT auszusetzen, bei OpenAI nach Mitarbeitern suchen wollte? Denken Sie, dass KI eine Bedrohung oder eine Chance für die Menschheit darstellt? Welche Prinzipien und Standards würden Sie gerne bei der Entwicklung und Nutzung von KI anwenden?