Der Mitbegründer von OpenAI, Ilya Sutskever, sucht in Israel nach Hightech-Talenten für ein neues Unternehmen, das er gründet.

OpenAI, das Unternehmen hinter chatgpt, ist ein KI-Forschungs- und Bereitstellungsunternehmen, das Ziele um „sicherzustellen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugutekommt.“

Sutskever ist gerade dabei, sein neuestes Projekt, Safe Superintelligence Inc., zusammen mit Daniel Gross, der früher bei apple im Bereich KI gearbeitet hat, und Daniel Levy, einem ehemaligen technischen Mitarbeiter von OpenAI, zu starten. Ihr neues Projekt soll eine sichere Umgebung für „superintelligente“ KI-Systeme schaffen, die klüger sind als Menschen.

„Der Aufbau einer sicheren Superintelligenz (SSI) ist das wichtigste technische Problem unserer Zeit. Wir haben das weltweit erste SSI-Labor mit einem einzigen Ziel und einem einzigen Produkt ins Leben gerufen: eine sichere Superintelligenz“, so Sutskever, Gross und Levy. schrieb in einem Beitrag auf 𝕏.

„Wir betrachten Sicherheit und Fähigkeiten gleichzeitig als technische Probleme, die durch revolutionäre Ingenieursleistungen und wissenschaftliche Durchbrüche gelöst werden müssen. Wir planen, unsere Fähigkeiten so schnell wie möglich zu verbessern und gleichzeitig sicherzustellen, dass unsere Sicherheit immer an der Spitze bleibt … Unser einzigartiger Fokus bedeutet, dass wir uns nicht durch Management-Overhead oder Produktzyklen ablenken lassen, und unser Geschäftsmodell bedeutet, dass Sicherheit, Schutz und Fortschritt von kurzfristigen kommerziellen Zwängen abgeschirmt sind“, fügten die drei Unternehmer hinzu.

Safe Superintelligence Inc. wird seinen Sitz in den USA haben und Niederlassungen in Palo Alto (Kalifornien) sowie in Tel Aviv unterhalten, wo das Unternehmen „tiefe Wurzeln und die Möglichkeit hat, die besten technischen Talente zu rekrutieren“, schrieben die drei.

Sutskever wurde in Russland geboren, wuchs in Jerusalem auf und zog im Alter von 16 Jahren mit seiner Familie nach Kanada.

Die Führungskräfte planen, ein Team aus „den weltbesten Ingenieuren und Forschern“ zusammenzustellen, das sich ausschließlich auf SSI konzentriert.

Letzten Monat verließ Sutskever OpenAI, das er 2015 zusammen mit CEO Sam Altman gegründet hatte.

Vor einem Jahr haben Altman und Sutskever gesprochen an der Universität Tel Aviv, wo sie warnten, dass der Bau von Maschinen, die intelligenter sind als Menschen, gefährlich sein könnte.

„KI wird eine sehr leistungsfähige Technologie sein, die für erstaunliche Anwendungen eingesetzt werden kann, um beispielsweise Krankheiten zu heilen. Mit der Zeit könnte sie aber auch dazu verwendet werden, Krankheiten zu erschaffen, und die Möglichkeiten werden zunehmen“, so Sutskever. sagte im Juni 2023. „Es wäre ein großer Fehler, eine superintelligente KI zu bauen, von der wir nicht wissen, wie wir sie kontrollieren können.“

„Wir müssen Strukturen schaffen, um die Nutzung der Technologie zu kontrollieren“, warnte er.

Damals sagte Altman, dass die israelische Technologieindustrie in den kommenden Jahren eine „riesige Rolle“ in der Revolution der künstlichen Intelligenz spielen werde.

„Ich habe zwei Dinge beobachtet, die an Israel besonders sind: Erstens die Talentdichte und zweitens die Unermüdlichkeit, der Tatendrang und der Ehrgeiz israelischer Unternehmer“, sagte Altman. „Diese beiden Dinge zusammen sind optimal, um sowohl in Bezug auf die KI-Forschung als auch auf die KI-Anwendungen zu unglaublichem Wohlstand zu führen.“

Auf die Frage, warum er die KI weiter entwickelt, wenn sie doch potenziell gefährlich ist, antwortete Altman: antwortete dass die Schaffung einer digitalen Superintelligenz sowohl ein moralischer Imperativ als auch eine unaufhaltsame Realität ist.

„Warum bauen wir das? Erstens glaube ich, dass der Lebensstandard und das, was wir den Menschen heute tolerieren, noch schlimmer aussehen werden, als wenn wir zurückblicken auf die Lebensweise der Menschen vor 500 oder 1.000 Jahren“, sagte Altman.

„Ich glaube, dass jeder in der Zukunft ein besseres Leben haben wird als die besten Menschen von heute …“