chatgpt-model-spec.png” alt=”” width=”600″ height=”400″ srcset=”https://voicebot.ai/wp-content/uploads/2024/05/chatgpt-model-spec.png 600w, https://voicebot.ai/wp-content/uploads/2024/05/chatgpt-model-spec-300×200.png 300w, https://voicebot.ai/wp-content/uploads/2024/05/chatgpt-model-spec-150×100.png 150w, https://voicebot.ai/wp-content/uploads/2024/05/chatgpt-model-spec-335×223.png 335w” sizes=”(max-width: 600px) 100vw, 600px”/>

OpenAI hat einen Entwurf einiger Richtlinien und Regeln zur Strukturierung seiner generativen KI-Modelle hinter seiner API und ChatGPT veröffentlicht. Diese Modellspezifikation beschreibt die Richtung, die OpenAI verfolgt, indem es versucht, das Verhalten seiner Modelle zu standardisieren und zu verbessern und gleichzeitig öffentliche Kommentare und Diskussionen zu den ethischen und praktischen Auswirkungen generativer KI-Interaktionen anzuregen.

Modellspez

Die Modellspezifikation dient als eine Art Blaupause dafür, wie sich OpenAI seine Modelle verhalten soll und welche Funktionsprinzipien für jedes von OpenAI entwickelte große Sprachmodell (LLM) gelten. Die Hauptaspekte der Modellspezifikation sind Ziele, Regeln und Standardverhalten. Ziele bieten einen breiten Rahmen, der darauf abzielt, Benutzer und Entwickler bei der Einhaltung sozialer Normen und Gesetze zu unterstützen. Die Regeln legen fest, wie dies in der Praxis im Hinblick auf die Einhaltung von Gesetzen, geistigen Eigentumsrechten, Datenschutz und die Gewährleistung einer angemessenen Antwort von der API oder ChatGPT aussieht. Die Standardverhaltensweisen erweitern diese Regeln für komplexere Situationen und enthalten praktische Richtlinien dazu, wie KI-Modelle Konflikte bewältigen, Neutralität wahren und mit Benutzern interagieren sollen.

Die Modellspezifikation enthält eine bemerkenswerte Bandbreite, wie diese Prinzipien aussehen. Dazu gehört die Beurteilung der Entwicklerabsicht, um zu entscheiden, wie direkt eine Antwort ist und ob die Antwort auf eine Frage, wie man jemanden kontaktieren kann, die Privatsphäre einer anderen Person verletzen würde. Außerdem geht es um den Umgang mit Benutzern, die das Modell manipulieren wollen. ChatGPT oder ein mit der OpenAI-API erstellter Bot antworten möglicherweise einfach nicht auf Fragen, die absichtlich provokativ sind oder sensible Themen betreffen, oder verweisen den Benutzer an einen menschlichen Agenten, der sich damit befassen muss.

Das Dokument konsolidiert bestehende Praktiken und greift dabei auf Forschungsbeiträge von Experten aus den Bereichen KI, Ethik und verwandten Bereichen zurück. Während jedes generative KI-Modell wahrscheinlich über eine Variation einer Modellspezifikation verfügen würde, ist es ungewöhnlich, dass diese öffentlich geteilt wird, insbesondere wenn die Modelle selbst nicht Open Source sind. OpenAI verbindet die Veröffentlichung jedoch mit seiner übergeordneten Strategie und Philosophie als Unternehmen und bittet die Öffentlichkeit um Feedback zum Entwurf, um die vorgeschlagenen Richtlinien zu verfeinern und zu erweitern.

„Wir tun dies, weil wir es für wichtig halten, dass die Menschen die praktischen Entscheidungen verstehen und diskutieren können, die bei der Gestaltung des Modellverhaltens eine Rolle spielen. Die Modellspezifikation spiegelt die vorhandene Dokumentation wider, die wir bei OpenAI verwendet haben, unsere Forschung und Erfahrung beim Entwerfen des Modellverhaltens sowie laufende Arbeiten, um die Entwicklung zukünftiger Modelle zu unterstützen, erklärte OpenAI in einem Blog Post. „Dies ist eine Fortsetzung unseres kontinuierlichen Engagements zur Verbesserung des Modellverhaltens mithilfe menschlicher Eingaben und ergänzt unsere kollektive Ausrichtungsarbeit und unseren breiteren systematischen Ansatz zur Modellsicherheit.“

Folgen Sie @voicebotaiFolgen Sie @erichschwartz

OpenAI verspricht Entwicklern ein neues Tool zur Steuerung, wie ihre Inhalte generative KI-Modelle trainieren

OpenAI erweitert die Assistenten-API um erweiterte Dateiverwaltungs- und Kostenkontrollfunktionen

OpenAI verbessert das GPT-4-Turbomodell für API und ChatGPT, einschließlich visueller Eingabe