OpenAI gibt an, ein neues Komitee für Sicherheit und Schutz einzurichten, und hat mit dem Training eines neuen künstlichen Intelligenzmodells begonnen, um das GPT-4-System zu ersetzen, das seinem Chatbot chatgpt zugrunde liegt.

Das Startup aus San Francisco erklärte am Dienstag in einem Blog-Beitrag, dass das Komitee den gesamten Vorstand bei „kritischen Sicherheitsentscheidungen“ für seine Projekte und seinen Betrieb beraten werde.

Das Sicherheitskomitee tagt zu einem Zeitpunkt, an dem die Debatte um die KI-Sicherheit im Unternehmen tobt. Diese geriet ins Rampenlicht, nachdem der Forscher Jan Leike zurückgetreten war und OpenAI dafür kritisiert hatte, dass die Sicherheit „hinter glänzenden Produkten zurückstehen“ müsse.

OpenAI sagte, es habe „kürzlich mit dem Training seines nächsten Pioniermodells begonnen“ und seine KI-Modelle seien in puncto Leistungsfähigkeit und Sicherheit branchenführend, erwähnte die Kontroverse jedoch nicht. „Wir begrüßen eine lebhafte Debatte in diesem wichtigen Moment“, sagte das Unternehmen.

KI-Modelle sind Vorhersagesysteme, die anhand riesiger Datensätze trainiert werden, um auf Abruf Texte, Bilder, Videos und menschliche Konversationen zu generieren. Frontier-Modelle sind die leistungsstärksten und modernsten KI-Systeme.

Zu den Mitgliedern des Sicherheitsausschusses gehören OpenAI-CEO Sam Altman und Vorsitzender Bret Taylor sowie zwei weitere Vorstandsmitglieder, Adam D'Angelo, der CEO von Quora, und Nicole Seligman, eine ehemalige General Counsel von Sony. Laut OpenAI sind auch vier technische und politische Experten des Unternehmens Mitglieder.

Die erste Aufgabe des Ausschusses wird es sein, die Prozesse und Sicherheitsvorkehrungen von OpenAI zu bewerten und weiterzuentwickeln und dem Vorstand innerhalb von 90 Tagen seine Empfehlungen vorzulegen. Das Unternehmen sagte, es werde die Empfehlungen, die es annimmt, dann öffentlich machen, „in einer Weise, die mit Sicherheit und Schutz vereinbar ist“.