Im Jahr 2018 verließ Elon Musk OpenAI, das er drei Jahre zuvor als Forschungsunternehmen mitgegründet hatte, das sich dem Aufbau sicherer KI widmete. Er sagte, dies sei auf einen Interessenkonflikt mit Teslas konkurrierenden KI-Bemühungen zurückzuführen; Spätere Berichte besagen, dass er einen Machtkampf verloren hat. Wie auch immer, Musk ging mit seinen Milliarden davon und OpenAI geriet in die lebensrettende Umarmung von Microsoft.

Fünf Jahre später ist Musk zurück im KI-Spiel. Im Juli kündigte er die Gründung von xAI an – das trotz der Verwendung von Musks Lieblingsbuchstaben ein von X Corp. getrenntes Unternehmen ist. „Das Ziel von xAI ist es, die wahre Natur des Universums zu verstehen“, begann die Ankündigung. Die Zahlen am Tag der Ankündigung (12.07.23), twitterte Musk, beliefen sich auf 42: die Zahl, die im Comic-Science-Fiction-Klassiker vorkommt Per Anhalter durch die Galaxisstellt die frustrierende Antwort auf „die ultimative Frage des Lebens, des Universums und allem“ dar.

Diese hohen Ziele sind eng mit Musks eigenwilliger Vision der KI-Sicherheit verknüpft, bei der eine neugierige Superintelligenz hoffentlich entscheiden wird, dass Menschen so interessant sind, dass sie sie bei sich behalten muss. Konkurrenten wie OpenAI und google DeepMind versuchen, KI-Sicherheit zu erreichen, indem sie die „Anpassung“ an menschliche Ziele und Prinzipien fördern, aber Musk glaubt, dass der Versuch, einer KI bestimmte Werte zu vermitteln, die Wahrscheinlichkeit erhöht, dass die KI die gegenteiligen Werte annimmt, mit dem Risiko von katastrophale Ergebnisse.

„Ich denke, der sicherste Weg, eine KI aufzubauen, besteht tatsächlich darin, eine zu schaffen, die maximal neugierig und wahrheitssuchend ist“, sagte er zwei Tage nach der Ankündigung von xAI bei einer Twitter Spaces-Veranstaltung zusammen mit den 11 All-Stars (und rein männlichen) Er stellte KI-Ingenieure als Startteam des Unternehmens ein – jeder erhielt Berichten zufolge 1 % der Anteile an dem von Musk finanzierten Unternehmen. Anstatt andere Unternehmen die Zukunft bestimmen zu lassen, versprach Musk, „eine wettbewerbsfähige Alternative zu schaffen, die hoffentlich besser ist als Google DeepMind oder OpenAI-Microsoft“.

Mit der Vorstellung eines KI-Chatbots namens Grok erhielt die Welt Anfang November einen ersten Einblick in diese Alternative. Frühe Demonstrationen zeigten, dass ein Chatbot sich weniger durch eine Verbindung zu kosmischen Wahrheiten als vielmehr durch die Bereitschaft auszeichnet, sich auf den Spott und die Vulgarität einzulassen, die Konkurrenzprodukte zu vermeiden versuchen. Musk gab außerdem bekannt, dass Grok ein Abonnementtreiber für X (ehemals Twitter) sein würde, indem es als Funktion der Premium+-Stufe des sozialen Netzwerks dienen und gleichzeitig die Tweets von X als Informationsquelle nutzen würde. Es fehlte jeglicher Hinweis darauf, wie der witzige KI-Bot in das breitere Musk-Portfolio der autonomen Fahrtechnologie von Tesla, der humanoiden Optimus-Roboter und der Mensch-Maschine-Gehirnschnittstellen von Neuralink passt, was Fragen über die Ernsthaftigkeit und Bedeutung von xAI aufwirft.

Gabby Jones – Bloomberg/Getty Images

Rivalität (oder vielleicht Rache) ist für Musk ein klares Motiv. Das Abwerben eines halben Dutzend Google DeepMind-Koryphäen ist nur das jüngste Kapitel einer Fehde, die auf seine Gespräche mit Larry Page im Jahr 2015 zurückgeht, kurz nachdem Google DeepMind übernommen hatte. Musk hat behauptet, der Google-Mitbegründer habe ihn beschuldigt, „speziesistisch“ zu sein, weil er potenzielle Lebensformen auf Siliziumbasis für minderwertig gegenüber Menschen halte. Beunruhigt über die Kommentare von Page und darüber, was Musk für Googles laxen Ansatz zur KI-Sicherheit hielt, war Musk Mitbegründer von OpenAI als sicherheitsorientiertes Gegengewicht zu Google – nur um zu sehen, dass OpenAI nach der Partnerschaft mit Microsoft „offen gesagt unersättlich auf Gewinn aus ist“.

„Mein Verstand“, sagte Steve Omohundroein erfahrener Informatiker, der gerade einen Artikel über die Verwendung mathematischer Beweise zur Abschwächung der negativen Auswirkungen von KI mitverfasst hat, „ist der Grund, warum er [founded xAI] ist er sauer auf OpenAI?“

Ultimativer Wahrsager, Beschützer der Menschheit, Werkzeug der Rache: Dies sind die Rollen, die Musk seiner neuen KI wahrscheinlich wünscht. Aber das Team, das er zusammengestellt hat, verfolgt möglicherweise ganz andere – wenn auch nicht weniger dramatische – Ziele.

Mathematische Argumentation

Bei dieser ersten Spaces-Veranstaltung im Juli sprachen alle neuen Mitarbeiter von Musk, aber keiner wiederholte oder ging auch nur auf die Theorie ihres neuen Chefs über eine äußerst neugierige Superintelligenz ein, die die Menschheit bewahrt. Worüber sie redeten, war Mathematik. Zwei Gemeinsamkeiten zeichnen die anfängliche Besetzung von xAI aus: Der größte Teil des Teams kommt von Google DeepMind und die meisten haben einen fundierten Mathematik- und/oder Physik-Hintergrund.

Darin könnte die Wahrheit liegen – ein Konzept, das nicht immer mit den heutigen „halluzinierenden“ generativen KI-Modellen in Verbindung gebracht wird. „Mathematik ist die Sprache, die unserer gesamten Realität zugrunde liegt“, sagte Greg Yang, ein Teammitglied, das von Microsoft kam, während der Sitzung. „Ich freue mich auch sehr darauf, eine KI zu schaffen, die genauso gut ist wie ich selbst oder sogar noch besser darin ist, neue Mathematik und neue Wissenschaften zu schaffen, die allen dabei hilft, unsere grundlegende Realität zu erreichen und tiefer in sie hineinzuschauen.“

Die Möglichkeit zu erhalten, neue mathematische und physikalische Wahrheiten zu erschließen – in einem schlanken, bürokratiefreien Unternehmen, das vom reichsten Mann der Welt finanziert wird – war für das Team von xAI ein klarer Anziehungspunkt. Aber die Mittel zur Erreichung dieses Ziels sind ein attraktives Ziel an sich, wie Teammitglied Christian Szegedy (ein ehemaliger Googler) auf der Veranstaltung erklärte: „Mathematik ist im Grunde die Sprache der reinen Logik, und ich denke, dass Mathematik und logisches Denken gleichzeitig.“ Ein hohes Niveau wird zeigen, dass die KI die Dinge wirklich versteht und nicht nur Menschen nachahmt.“

Wenn Sie Probleme lösen, erhalten Sie sowohl Antworten als auch die Bestätigung, dass Ihre KI selbstständig denken kann, im Gegensatz zu Modellen wie GPT-4 von OpenAI, die ihr Trainingsmaterial im Wesentlichen wieder ausspucken. So lautet zumindest die Theorie: Es gibt unterschiedliche Meinungen darüber, welche Schwelle eine KI überschreiten muss, um zu einer universell einsetzbaren, denkenden AGI oder künstlichen allgemeinen Intelligenz zu werden.

„Ich würde sagen, der heilige Gral von KI-Systemen ist das Denken, und der Ort, an dem das Denken wahrscheinlich am offensichtlichsten ist, ist die mathematische Forschung“, sagte Geordie Williamson, Mathematikprofessor an der Universität Sydney, der kürzlich mit Google DeepMind an der Verfeinerung alter mathematischer Vermutungen zusammengearbeitet hat.

Die Fähigkeit der KI, physikalische Durchbrüche zu erzielen, sei „bis zu einem gewissen Grad bereits vorhanden“, fügte Williamson hinzu, wobei neuronale Netze dabei helfen, Dinge wie die genauen Grenzen zwischen den selteneren Wasserzuständen herauszufinden. „Wir haben diesen neuen Hammer namens neuronales Netz, und wir Mathematiker und Physiker gehen herum und schlagen damit“, sagte er. „Es ist ein neues Tool, das wir verwenden, aber wir sitzen immer noch auf dem Fahrersitz.“

Aber während Williamson sagt, er habe „flüchtige Einblicke“ in die auf die Biologie ausgerichteten Systeme von DeepMind gesehen, sagt er, dass wir „meilenweit“ davon entfernt sind, diesen Meilenstein endgültig zu erreichen. „Generative KI ist erstaunlich, aber ich habe keine Beweise dafür gesehen [seeing] Argumentation“, sagte er.

Musk selbst hat hinsichtlich des AGI-Wendepunkts gemischte Signale abgegeben. Beim xAI-Start sagte er, er stimme mit dem Zukunftsforscher Ray Kurzweil überein, dass AGI wahrscheinlich um das Jahr 2029 herum auftauchen werde, „plus oder minus einem Jahr“. Aber in einer Tesla-Gewinnaufforderung im Oktober beschrieb er das KI-System seiner Autos als „im Grunde genommen Baby-AGI – es muss die Realität verstehen, um fahren zu können“.

Wird „Wahrheit“ KI wirklich sicherer machen?

Während das Bestreben, AGI mittels Mathematik zu validieren, ein Konzept ist, das in der Branche eine größere Dynamik genießt, löst Musks Theorie über die inhärente Sicherheit einer wahrheitssuchenden KI bei vielen Experten skeptische Reaktionen aus.

„In gewisser Weise ist es Wunschdenken. Dafür haben wir keine Beweise“, sagte José Hernández-Orallo, KI-Professor am Valencianischen Forschungsinstitut für Künstliche Intelligenz, und wies darauf hin, dass es nicht einmal überzeugende Beweise dafür gebe, dass kluge Menschen weniger wahrscheinlich Verbrechen begehen. „Die Idee zu erkunden ist in Ordnung, aber wie wollen Sie diese Idee testen?“

„Ich habe gehört [Musk] Wenn man so etwas sagt, ergibt es eigentlich keinen Sinn“, sagte Omohundro, der Informatiker. „Die Suche nach der Wahrheit ist sehr wertvoll, um intelligenter zu werden, und es wäre wahrscheinlich hilfreich, wenn man der Menschheit helfen wollte … herauszufinden, was die Wahrheit ist, aber ich sehe keinen Grund, warum das Wissen um die Wahrheit Sie unbedingt dazu bringen sollte Seien Sie pro-menschlich.“

Da xAI darauf abzielt, irgendwann die „Wahrheit“ über den mathematischen und physikalischen Bereich hinaus zu ermitteln, sind einige möglicherweise besorgt über seine Verbindungen zu X, ehemals Twitter. Musk sagt, dass öffentliche Tweets Teil des Trainingsdatensatzes von Grok sind und ihn auch mit aktuellen Informationen versorgen – aber Es ist auch nicht klar, wie diese Datenweitergabe auf der rechten Seite der EU-Datenschutzbestimmungen bleiben soll, da in der Datenschutzrichtlinie von X nicht erwähnt wird, dass Benutzerdaten zu KI-Schulungszwecken an ein anderes Unternehmen weitergegeben werden.

Bei der Auftaktveranstaltung sagte Musk, dass Tweets „einen guten Datensatz für Texttraining und auch für Bild- und Videotraining“ lieferten. Er wetterte auch gegen das, was er als illegales Scraping dieses Datensatzes durch andere KI-Unternehmen bezeichnete, und sagte: „Ich denke, wir werden die öffentlichen Tweets auch für Schulungen nutzen, so wie es alle anderen auch getan haben.“

Musk hat auch wiederholt Konkurrenten wie OpenAI und Google angegriffen, weil sie Leitplanken geschaffen haben, die verhindern, dass ihre KI-Modelle beleidigende Reaktionen aussenden. Für Musk bedeutet dies im Wesentlichen, einer KI beizubringen, dass es in Ordnung ist zu lügen – eine Lektion, die seiner Meinung nach von Natur aus gefährlich ist.

Da xAI nicht an öffentliche Aktionäre oder „nicht marktbasierte ESG-Anreize“ gebunden sei, habe seine KI laut Musk mehr Freiheit, genaue, aber kontroverse Antworten zu geben. „Manchmal werden sie politisch nicht korrekt sein, und wahrscheinlich werden viele Menschen durch einige der Antworten beleidigt sein, aber wenn wir versuchen, die Wahrheit mit möglichst wenig Fehlern zu optimieren, tun wir das Richtige.“ er sagte.

Ein Weg zu Tesla?

Bei der jüngsten Enthüllung von Grok – die insbesondere nur wenige Tage vor der großen Entwicklerkonferenz von OpenAI stattfand – lag der Schwerpunkt von xAI eindeutig auf der „rebellischen“ Natur des Modells und seiner Vorliebe für Musks bissigen Humor. Es gab noch keinen Versuch, es als Werkzeug für Unternehmen zu bewerben, und es gab kaum Hinweise auf Anwendungen, die über scherzhafte Chatbots hinausgingen.

Auf die Frage im Juli, ob er beabsichtige, mit xAI Produkte für die breite Öffentlichkeit oder für Geschäftskunden herzustellen, antwortete Musk vage, das Ziel seines Teams sei es, „nützliche KI zu entwickeln, schätze ich“, wobei zu den wahrscheinlichen Nutzern „Menschen, Verbraucher, Unternehmen oder wer auch immer“ gehören würden. ”

Der Kampf gegen Google und OpenAI (und das von Amazon unterstützte Anthropic und Meta) wird viele kostspielige Rechenressourcen erfordern; Das Training des großen GPT-4-Sprachmodells von OpenAI kostete über 100 Millionen US-Dollar. Anfang dieses Jahres wurde die Wallstreet Journal berichtete, Musk habe sich für sein KI-Projekt „einen großen Teil des freien Serverplatzes von Oracle geschnappt“. Oracle-Mitbegründer Larry Ellison bestätigte die Vereinbarung im September. Insider auch gemeldet im April, dass Musk 10.000 High-End-Grafikprozessoren für eine KI-Initiative innerhalb von Twitter gekauft hatte.

Tesla kann in Form seines Dojo-Supercomputers auch eine Menge Rechenleistung anbieten, allerdings gibt es Probleme mit der Idee, xAI einzubinden. Zum einen die erste Iteration von Dojo – die darauf ausgelegt ist, Bilder zugunsten von Tesla zu verarbeiten und zu erkennen Treiber – weist Speicherbandbreitenbeschränkungen auf, die es für die Ausführung großer Sprachmodelle im GPT-Stil ungeeignet machen. Musk behauptet, dass Dojo 2 in dieser Hinsicht einen besseren Job machen wird.

Das zweite Problem besteht darin, dass Tesla ein börsennotiertes Unternehmen ist und „jede Beziehung mit Tesla eine Transaktion zu marktüblichen Konditionen sein muss“, bemerkte Musk bei der Auftaktveranstaltung. Bisher gibt es in den Unterlagen von Tesla keine Hinweise darauf, dass xAI seine Ressourcen nutzt.

Musk fügte jedoch hinzu: „Natürlich wäre es eine natürliche Sache, mit Tesla zusammenzuarbeiten, und ich denke, dass es auch für Tesla von beiderseitigem Nutzen wäre, wenn es darum geht, Teslas Selbstfahrfähigkeiten zu beschleunigen, bei denen es eigentlich um die Lösung realer KI geht.“ . Ich bin sehr optimistisch, was Teslas Fortschritte im Bereich der realen KI angeht, aber natürlich gilt: Je mehr intelligente Menschen dabei helfen, dies zu erreichen, desto besser.“

Auch wenn xAI am Ende nicht dazu beiträgt, die Menschheit zu schützen und gleichzeitig die ultimative Frage nach dem Leben, dem Universum und allem zu beantworten, kann es vielleicht zumindest dazu beitragen, die Fahrt sicherer zu machen.