Ilya Sutskever, der frühere Chefwissenschaftler von OpenAI, der das Unternehmen letzten Monat verließ, leitet ein neues Startup, das mit OpenAI konkurrieren soll.
Nach einem Mittwoch Post Bei X hat Sutskevers neues Unternehmen „einen Fokus, ein Ziel und ein Produkt“ im Sinn – eine sichere Superintelligenz oder SSI.
SSI ist zugleich auch der Name des neuen Startups.
Ich gründe ein neues Unternehmen: https://t.co/BG3K3SI3A1
— Ilya Sutskever (@ilyasut) 19. Juni 2024
SSIs Webseiteobwohl es zum Zeitpunkt des Schreibens nur eine Seite Text umfasste, erläutert, dass Sutskever, ehemaliger apple-Direktor Daniel Grossund ehemaliger OpenAI-Ingenieur Daniel Levy haben das weltweit erste sichere Superintelligenzlabor gegründet.
„Wir gehen Sicherheit und Fähigkeiten im Gleichschritt an“, heißt es auf der Website. „Wir planen, die Fähigkeiten so schnell wie möglich zu verbessern und gleichzeitig sicherzustellen, dass unsere Sicherheit immer an erster Stelle steht.“
Die Aussage, dass die Entwicklung der Sicherheit Hand in Hand mit neuer KI gehe, steht im Einklang mit einer früheren Bemerkung des KI-Experten Sahil Agarwal, der in Yale einen Doktortitel in angewandter Mathematik besitzt.
Agarwal sagte Unternehmer letzten Monat, dass Innovation und Sicherheit keine zwei Dinge sind, die man ausbalancieren muss. Vielmehr sind sie untrennbar miteinander verbunden, wenn ein Unternehmen wächst.
„Sie verhindern nicht, dass Innovationen passieren, wenn Sie versuchen, [AI] für die Gesellschaft sicherer und geborgener zu machen“, sagte Agarwal.
Verwandt: Wer verhindert nach der Auflösung des Superalignment-Teams von OpenAI, dass die KI außer Kontrolle gerät?
Sutskever verließ OpenAI letzten Monat, nachdem chatgpt-cofounder-419276b50007ad41adfd27764da3188c“>Mitbegründer Ich habe es vor fast einem Jahrzehnt getan und bin im Vorstand tätig.
Der Schritt folgte auf eine Kontroverse im November, in deren Folge Sutskever und andere Vorstandsmitglieder den CEO von OpenAI, Sam Altman, entließen.
Sie gebracht Altman kehrte weniger als eine Woche später zurück, nachdem am meisten der OpenAI-Mitarbeiter drohten mit einer Massenflucht zu Microsoft, wenn er nicht wieder eingestellt würde.
Ilya Sutskever (rechts) und Sam Altman (Mitte). Foto von JACK GUEZ/AFP via Getty Images
Sutskever und sein Co-Leiter eines KI-Sicherheitsprojekts, Jan Leike, traten am selben Tag bei OpenAI zurück.
Während Sutskever erklärte, er sei „zuversichtlich“, dass OpenAI unter Altmans Führung eine „sichere und nützliche“ KI entwickeln werde, AbschiedserklärungLeike sagte Er ging, weil bei OpenAI „in den vergangenen Jahren die Sicherheitskultur und -prozesse hinter glänzenden Produkten in den Hintergrund gerückt sind“.
Verwandt: Ehemaliges Vorstandsmitglied von OpenAI verrät, warum sie CEO Sam Altman feuern ließ
OpenAI hat derzeit einen Wert von 80 US-Dollar Milliarde.
