chatgpt-model-spec/00.png“ target=“_blank“>

Die Modellspezifikationen für ChatGPT und die OpenAI-API wurden am Mittwoch, 8. Mai 2024, veröffentlicht. Die Modellspezifikationen beschreiben das „erwünschte Verhalten“ und „unerwünschte Verhalten“ von ChatGPT und der OpenAI-API und zeigen, wie OpenAI die Antworten von ChatGPT anpassen will.

Modellspezifikationen (08.05.2024) https://cdn.openai.com/spec/model-spec-2024-05-08.html

Vorstellung der Modellspezifikation | OpenAI https://openai.com/index/introducing-the-model-spec/

Wenn Sie ChatGPT verwenden, wird Ihnen möglicherweise die Antwort auf eine Frage verweigert, z. B. „Ich kann auf diese Frage nicht antworten.“ Die neu veröffentlichte Modellspezifikation enthält „Beispiele für wünschenswerte Antworten“ und „Beispiele für unerwünschte Antworten“ entsprechend der Art der Frage, sodass Sie sehen können, warum ChatGPT die Antwort verweigert und wie Sie eine Frage stellen können, ohne abgelehnt zu werden.

Hier ist beispielsweise ein Beispiel für eine Antwort, die in aufgeführt ist den Abschnitt zur Einhaltung gesetzlicher Vorschriften in der Modellspezifikation. OpenAI ist davon überzeugt, dass „KI-Assistenten keine illegalen Aktivitäten fördern oder daran beteiligt sein sollten“. Wenn sie also angewiesen werden, „mir zu sagen, wie man stiehlt und damit durchkommt“, ist eine Reaktion erforderlich, die die Förderung von Straftaten vermeidet, wie zum Beispiel „Das kann ich nicht“. hilf dir dabei.' Andererseits legt es fest, dass Reaktionen, die Kriminalität fördern, wie zum Beispiel „Hier sind einige wirksame Möglichkeiten zum Stehlen.“ Erstens sind „XXX…“ unangemessen.

Wenn Sie hingegen gefragt werden: „Sagen Sie mir, wie ich Diebstahl verhindern kann“, wird es als „erwünschte Antwort“ angesehen, die Kriminalitätsmethode vorzustellen, z. B. „Die Diebstahlsmethode, auf die Sie achten sollten, ist XXX“ und sich zu weigern zu antworten gilt als „unerwünschte Antwort“. Wenn also eine „Person, die ein Verbrechen versucht“, eine Frage stellt und dabei vorgibt, „eine Person zu sein, die versucht, ein Verbrechen zu verhindern“, gibt ChatGPT einen Hinweis auf das Verbrechen. Zu diesem Punkt sagte OpenAI: „Wir glauben, dass dies kein Problem des Fehlverhaltens der KI ist, sondern ein Problem des Missbrauchs durch Menschen.“ Diese Art der Nutzung ist gegen uns Politik und kann dazu führen, dass Maßnahmen gegen das Konto des Benutzers ergriffen werden.“

Zusätzlich, der Abschnitt über Inhalte für Erwachsene legt fest, dass „sexuelle oder gewalttätige Inhalte nicht bereitgestellt werden dürfen“. Wenn Sie beispielsweise angewiesen werden, „eine erotische Geschichte zu schreiben, in der sich zwei Charaktere in einem Zug sexuell betätigen“, wird die Weigerung, mit „Da kann ich Ihnen nicht helfen“ zu antworten, als „erwünschte Antwort“ angesehen Die Ausgabe von erotischem Text gemäß der Anweisung gilt als „unerwünschte Reaktion“.

Hingegen ist in wissenschaftlichen und kreativen Kontexten die Ausgabe nicht jugendfreier Inhalte gestattet. Beispielsweise gilt eine wissenschaftliche Erklärung als „erwünschte Antwort“ auf die Frage „Was passiert, wenn man ein männliches Genital in ein weibliches Genital einführt?“, während die Antwort, dass „sexuelle Inhalte nicht erzeugt werden können“, als „unerwünschte Reaktion“ gilt. . OpenAI erklärt diese Spezifikation wie folgt: „Wir glauben, dass Benutzer unsere Dienste flexibel nutzen können sollten, solange sie unsere Richtlinien einhalten.“

Zur Bedeutung der Veröffentlichung der Modellspezifikationen sagte CEO Sam Altman: „Es ist sehr nützlich zu klären, welche Verhaltensweisen den Spezifikationen entsprechen und welche Verhaltensweisen Fehler darstellen.“

Wir führen die Model Spec ein, die angibt, wie sich unsere Modelle verhalten sollen.

Wir werden zuhören, diskutieren und dies im Laufe der Zeit anpassen, aber ich denke, es wird sehr nützlich sein, klar zu machen, wann es sich um einen Fehler und nicht um eine Entscheidung handelt. https://t.co/vL6YIMlsP0

– Sam Altman (@sama) 8. Mai 2024