Ilya Sutskever ist sich der Sicherheitsfragen im Zusammenhang mit generativer künstlicher Intelligenz sehr bewusst und hat Safe Superintelligence entwickelt, um sicherzustellen, dass Sicherheit immer Priorität hat.

„Ich gründe ein neues Unternehmen.“ Mit diesen Worten kündigte Ilya Sutskever, der Mitbegründer von OpenAI, nüchtern an eine Veröffentlichung (ex-Twitter), der Start von Sichere Superintelligenz (SSI), sein neues Start-up rund um künstliche Intelligenz.

„Wir werden auf einen Schlag eine sichere Superintelligenz schaffen.“ […] Wir werden dies dank revolutionärer Durchbrüche erreichen, die von einem kleinen, sehr spezialisierten Team erzielt wurden“, fährt er fort.

Neben Daniel Gross (Mitbegründer von Stichwort KI) und Daniel Levy (ebenfalls früher bei OpenAI) möchte Ilya Sutskever künstliche Intelligenz (KI) mit „hohen Fähigkeiten“ aufbauen, „wobei sichergestellt ist, dass (die) Sicherheit“ immer die Priorität bleibt.

Die Schaffung von Safe Superintelligence, deren Ankündigung am Mittwoch auf Twitter (X) veröffentlicht wurde, ist angesichts der Bedeutung, die Ilya Sutskever der Sicherheit von KI-Modellen beimisst, keine Überraschung.

Rechtsstreitigkeiten über OpenAI-KI-Ethik

Vor einem Monat gab Ilya Sutskever bekannt, dass er OpenAI – das er insbesondere zusammen mit Sam Altman und Elon Musk gegründet hatte – verlassen würde. Die Ursache? Streitigkeiten mit dem Vorstand über die Entwicklung und Ethik ihrer künstlichen Intelligenzen.

Der in Russland geborene Informatiker hatte außerdem innerhalb von OpenAI eine Einheit geschaffen, die für die Schätzung und Antizipation der langfristigen Risiken von KI zuständig ist, das „Superalignment“-Team. Doch wenige Tage nach seiner Abreise wurde es aufgelöst.

Nach Ilya Sutskever folgten weitere wichtige Mitglieder von OpenAI wie Jan Leike (mit dem er „Superalignment“ entwickelte) und Gretchen Krueger. Ende Mai gab OpenAI bekannt, dass es bereits an der nächsten Version seines Flaggschiff-Chatbots chatgpt-5 arbeitet.