Was haben Sam Bankman-Fried (FTX), der gefallene Star der Kryptowährungen, und mehrere OpenAI-Ingenieure gemeinsam? Eine Strömung, eine Philosophie.

Die Krise, die OpenAI in den letzten Tagen erschüttert hat, ist nicht nur eine – ernste – Governance-Angelegenheit, sondern hat ihre Wurzeln auch in philosophischen Überzeugungen. Genauer gesagt, in einem Trend namens „effektiver Altruismus“, der im Silicon Valley sehr beliebt ist.

Hinter den Unruhen bei der Muttergesellschaft von chatgpt stehen tatsächlich gegensätzliche Weltanschauungen. Erläuterungen.

1. Was ist effektiver Altruismus?

Es handelt sich um eine Bewegung, deren Ziel es ist, mithilfe von Forschung und Argumentation die drängendsten Probleme zum Wohle aller zu lösen. Dieser Trend wird insbesondere vom australischen Philosophen Peter Singer inspiriert, der seine Prinzipien seit den 1970er Jahren propagiert. In jüngerer Zeit hat Will MacAskill, ein junger Professor und Autor, dazu beigetragen, ihn in der angelsächsischen Welt und im Silicon Valley bekannt zu machen.

„Der effektive Altruist ist der Ansicht, dass alle Leben gleich sind und dass altruistisches Handeln daher mehr von Vernunft als von Emotionen geleitet werden muss. „Es geht weniger darum, ethische Lebensregeln zu befolgen, als vielmehr darum, das Gute zu maximieren, das durch eine bestimmte Zeit- oder Geldinvestition geschaffen wird“, erklärt der Philosoph Gaspard Koening in einer Kolumne für „Les Echos“ zur FTX-Affäre.

Will MacAskill stellt beispielsweise die Frage „80.000 Stunden“: Wie können wir die 80.000 Arbeitsstunden in einer durchschnittlichen Karriere am besten steuern? „Wir haben gesehen, dass Philosophiestudenten Banker wurden, um ihr Einkommen für wohltätige Zwecke einsetzen zu können“, bemerkt Gaspard Koeing. „Die eigentliche Besessenheit dieser philosophischen Strömung besteht darin, zu fragen, was der nützlichste Schritt ist, den man unternehmen kann, wenn man reich ist und die Armut und das Böse in der Welt reduzieren möchte, nicht nur auf der Ebene des Planeten, sondern auch des Bösen, das es gibt.“ könnte in der Zukunft kommen“, erklärte Olivier Alexandre, Soziologe und wissenschaftlicher Mitarbeiter am CNRS (Zentrum für Internet und Gesellschaft), kürzlich in einer Studie Interview mit France Culture . Diese Bewegung besteht seiner Aussage nach aus 30.000 bis 40.000 Anhängern. Es gibt Studienzentren und Konferenzen, auch in Frankreich.

Effektiver Altruismus hängt mit dem Konzept des Utilitarismus zusammen, der die Maximierung des Wohlbefindens in der Welt betont.

2. Ist die gesamte Technologiewelt „altruistisch“?

Diese Denkrichtung steht oft anderen wie dem Transhumanismus und dem Langfristismus nahe. An diesen Bewegungen sind mehrere Tech-Persönlichkeiten und amerikanische Tycoons beteiligt, darunter Sam Bankman-Fried, aber auch Elon Musk, Jeff Bezos usw. „Es besteht eine intellektuelle Affinität zwischen diesen Denkweisen und den Fragen von Tech-Unternehmern, die sich mit logischem Denken eine universelle Mission geben“, erklärt Olivier Alexandre gegenüber „Echos“.

Doch nicht das gesamte Silicon Valley folgt dieser Philosophie. „Es gibt auch viel Widerstand“, erinnert sich Jean-Yves Lemoine, Ingenieur und Experte für KI. Einige haben die Bewegung kritisiert, etwa Marc Andreeseen (Mitbegründer der Risikokapitalgesellschaft Andreessen Horowitz) oder Garry Tan (Y Combinator).

Diese Woche, in ein Brief an seine Mitarbeiter, den Generaldirektor des Start-ups Cohere Bloomberg, ein auf künstliche Intelligenz (KI) spezialisiertes Unternehmen, kritisierte den „Egoismus“ der Bewegung des effektiven Altruismus und derjenigen, die sich zu viele Sorgen über die Gefahr einer KI-Apokalypse machen. Aidan Gomez argumentiert, dass die Bewegung des effektiven Altruismus, die darauf abzielt, zu quantifizieren, wie man das Beste für die Menschheit tun kann, dogmatisch geworden ist und in Selbstzufriedenheit schwelgt. „Wenn Menschen beginnen, so tief zu glauben, dass sie die einzigen sind, die der Menschheit nützen oder sie sogar retten können, neigen sie dazu, zu diesem Zweck extreme Maßnahmen zu ergreifen“, schrieb er.

Andere haben die philanthropische Bewegung aus ähnlichen Gründen kritisiert und angeführt, dass die Denkweise „Der Zweck heiligt die Mittel“ zu Schaden, Betrug und Ähnlichem geführt habe.

3- Warum ist KI ein Problem für effektiven Altruismus?

Wie die Agentur Bloomberg betont, hat effektiver Altruismus seine Mission auf die Prävention zukünftiger Risiken ausgeweitet, bei denen der Mensch verschwinden könnte (Pandemie, Atomkrieg usw.).

Einigen zufolge stellt KI jedoch ein großes Risiko dar. Wir erinnern uns besonders an den von Elon Musk und Hunderten globalen Experten im März unterzeichneten Brief, in dem er eine Pause in der KI forderte und dabei Risiken für die Menschheit anführte. „Sollten wir nichtmenschliche Systeme entwickeln, die eines Tages zahlreicher und intelligenter sein und uns ersetzen könnten? », fragten sie sich in diesem Brief.

Wie in einem Science-Fiction-Buch besteht die größere Sorge darin, dass die KI eines Tages die Menschen überholen und die Technologie dazu veranlassen wird, sich gegen sie zu wenden.

Daher die Notwendigkeit von Werten in der KI. Auf einer Firmenfeier von OpenAI im vergangenen Dezember wandte sich Ilya Sutskever (wissenschaftlicher Leiter des Unternehmens) an Mitarbeiter und ihre Gäste: „Unser Ziel ist es, eine AIG (künstliche allgemeine Intelligenz, die die des Menschen übertrifft) zu schaffen, die die Menschheit liebt.“ „Riechen Sie den AIG“, fügte er hinzu. Sprechen Sie mir nach: „Feel the AIG“, berichtet das „Wall Street Journal“. Effektive Altruisten wollen eine KI aufbauen, die von Ingenieuren kontrolliert werden kann, und die menschliche Werte berücksichtigt.

Diese Sorge um KI ist alles andere als neu, erinnert sich Olivier Alexandre, Autor von „La Tech. Wenn das Silicon Valley die Welt neu gestaltet“: „Einige Tech-Persönlichkeiten mobilisieren seit den 2010er Jahren wegen der Risiken der KI, insbesondere Elon Musk und Sam Altman, die besorgt sind, dass sie in Bezug auf KI keine Alternativen zu den Technologiegiganten sehen.“

Hier entstand auch die Idee einer Non-Profit-Organisation: OpenAI. Das Ausgangsprinzip ist ehrgeizig: Künstliche Intelligenz zu entwickeln, die „der gesamten Menschheit“ zugutekommt. „Sicherheit und freies Teilen gehörten zu den wesentlichen Grundwerten“, so der Soziologe weiter. Im Jahr 2019 kam es zu einem Wendepunkt mit der Änderung des Status von OpenAI zu „capped for-profit“ und einer ersten Investition von Microsoft.

Andere Unternehmen der Branche sind im Geiste effektiven Altruismus gegründet worden. Das „Wall Street Journal“ So zitiert Anthropic, gegründet von ehemaligen Mitgliedern von OpenAI, die die amerikanische Tageszeitung als „günstig“ für die Bewegung bezeichnete. Sam Bankman-Fried war einer der Hauptinvestoren von Anthropic und unterstützte die Mission des Unternehmens, der KI-Sicherheit Vorrang vor Wachstum und Gewinn zu geben.

4. Welcher Zusammenhang besteht zwischen Philosophie und der Krise bei OpenAI?

Zusammenfassend lässt sich sagen, dass es in der KI zwei Denkrichtungen gibt: Einerseits die „Doomer“, die sich Sorgen über das von der KI ausgehende Risiko machen, und die „Techno-Optimisten“, die von der Notwendigkeit überzeugt sind, voranzukommen.

Im vergangenen Jahr, seit der Einführung von ChatGPT, die vor fast einem Jahr für großes Aufsehen sorgte, hat Sam Altman mit der Veröffentlichung neuer Produkte, darunter personalisierte Versionen des Gesprächsroboters, tendenziell Fortschritte gemacht. Im September wurde das kalifornische Start-up mit 80 bis 90 Milliarden Dollar bewertet!

Doch die von Sam Altman umgesetzte Strategie sorgte auch für Gänsehaut. So spielte der wissenschaftliche Leiter des Unternehmens, Ilya Sutskever, vor seinem Rückzug eine Schlüsselrolle bei der überraschenden Absetzung von Sam Altman am vergangenen Wochenende. Mit Vorbehalten, inspiriert von effektivem Altruismus, berichtete die amerikanische Presse: Besorgt über die Geschwindigkeit, mit der OpenAI neue Produkte auf den Markt bringt, und über die Folgen der KI für die Gesellschaft hätte er die anderen Mitglieder des Rates, mit Ausnahme von Präsident Greg Brockman, davon überzeugt, zu gehen den CEO loswerden. Daher folgten ihm die OpenAI-Vorstandsmitglieder Tasha McCauley und Helen Toner, die Verbindungen zur Bewegung des effektiven Altruismus nachgewiesen haben.

Das oberste Anliegen konzentriert sich auf die sogenannte allgemeine künstliche Intelligenz, die intelligenter als der Mensch ist und daher aktuelle Modelle der sogenannten generativen künstlichen Intelligenz wie das GPT von OpenAI übertrifft. „OpenAI zeigt in seinen Aussagen, dass wir nicht weit davon entfernt sind. Bisher bestand die Idee jedoch darin, dass diese AIG bei OpenAI und nicht bei Microsoft bleiben würde, was die Vorstandsmitglieder zweifellos beunruhigte“, fügt Jean-Yves Lemoine hinzu.

Mit der Wiedereinstellung von Sam Altman, der diese Woche an der Spitze des kalifornischen Unternehmens steht, „hat das Modell gewonnen, das die Beschleunigung der KI-Entwicklungen anstrebt, was auch voraussetzt, dass es kommerzielle Absatzmöglichkeiten gibt“, sagt Stéphane Distinguin, Gründer von FaberNovel.

Laut „Wall Street Journal“ habe die Open-AI-Krise, genauer gesagt die triumphale Rückkehr von Sam Altman, die Grenzen dieser Philosophie aufgezeigt. „Die Religion der OpenAI-Vorstandsmitglieder des effektiven Altruismus und ihre falsche Anwendung haben die Welt möglicherweise wieder auf den Weg zu den enormen Vorteilen der künstlichen Intelligenz gebracht“, schrieb OpenAI-Investor Vinod Khosla in Kolumne für die Medien „The Information“ . „Die unterschiedlichen Standpunkte bei OpenAI basieren möglicherweise auf effektivem Altruismus, unterscheiden sich jedoch hinsichtlich der anzuwendenden Strategie“, erklärt Olivier Alexandre.