OpenAI hat den ersten Entwurf der Model Spec veröffentlicht, ein Dokument, das das gewünschte Verhalten seiner Modelle in der OpenAI API und chatgpt beschreibt. Dieses Dokument enthält Kernziele und Anleitungen zum Umgang mit widersprüchlichen Zielen oder Anweisungen. Laut OpenAI besteht der Zweck der Modellspezifikation darin, als Leitfaden für Forscher und Datenkennzeichner zu dienen, die am verstärkenden Lernen aus menschlichem Feedback beteiligt sind. Obwohl die Modellspezifikation noch nicht vollständig implementiert ist, stützt sie sich auf die vorhandene Dokumentation bei OpenAI. Darüber hinaus möchte OpenAI, dass KI-Modelle wie ChatGPT, Sora und Dall-E letztendlich direkt aus der Modellspezifikation lernen.
Die Modellspezifikation beschreibt drei Arten von Prinzipien: Ziele, Regeln und Standards. Ziele bieten umfassende Orientierungshilfen, während Regeln spezifische Verhaltensweisen für Situationen mit hohem Risiko festlegen. Standardwerte hingegen bieten grundlegende Verhaltensweisen, die von Entwicklern oder Benutzern bei Bedarf überschrieben werden können. Zielkonflikte werden durch eine Kombination aus Regeln und Vorgaben angegangen. Regeln werden für Situationen eingesetzt, in denen negative Folgen nicht akzeptabel sind, während Standardvorgaben für stabiles Verhalten sorgen, das mit den zugrunde liegenden Prinzipien im Einklang steht.
OpenAI betrachtet die Veröffentlichung der Modellspezifikation als integralen Bestandteil eines fortlaufenden Dialogs über Modellverhalten und ethische KI-Entwicklung. Sie zielen darauf ab, ein breites Spektrum von Interessengruppen, darunter politische Entscheidungsträger, vertrauenswürdige Institutionen und Fachexperten, einzubeziehen, um Feedback zum Ansatz und zu den im Dokument dargelegten spezifischen Zielen, Regeln und Vorgaben einzuholen.
Durch dieses Engagement versucht OpenAI, die Perspektiven der Stakeholder zur Modellspezifikation zu verstehen und festzustellen, ob zusätzliche Überlegungen einbezogen werden müssen. Sie sind insbesondere daran interessiert zu erfahren, ob die Stakeholder den Ansatz und seine Komponenten unterstützen.
Darüber hinaus lädt OpenAI auch die breite Öffentlichkeit ein, in den nächsten zwei Wochen Feedback zur Modellspezifikation abzugeben. Dieses Feedback wird verwendet, um das Dokument zu verfeinern und sicherzustellen, dass es mit der Mission von OpenAI einer verantwortungsvollen KI-Entwicklung übereinstimmt.
OpenAI plant, regelmäßig über alle Änderungen an der Modellspezifikation zu informieren und darüber zu informieren, wie das Unternehmen Feedback in seinen Forschungs- und Entwicklungsprozess einbezieht. Diese Transparenz unterstreicht das Engagement von OpenAI für die Entwicklung von KI-Modellen, bei denen Sicherheit, Fairness und positive Ergebnisse für die Gesellschaft im Vordergrund stehen.
Im Wesentlichen dient die Modellspezifikation als umfassender Rahmen zur Steuerung des Verhaltens von KI-Modellen und stellt sicher, dass sie für Benutzer und die Gesellschaft insgesamt nützlich und sicher bleiben.
