Mit der Popularität von mobilem Internet und Smartphones wurde die Hürde für den Zugriff auf das Internet gesenkt und die Überprüfung von Inhalten ist zu einem der schwierigsten Probleme im Internet geworden. Angesichts dieser Situation glaubt OpenAI, dass ChatGPT helfen kann. Sie versuchen, dieses groß angelegte Multimodellmodell zu nutzen, um ein „skalierbares, konsistentes und anpassbares Inhaltsüberprüfungssystem“ aufzubauen, das der Plattform nicht nur dabei helfen kann, Überprüfungsentscheidungen zu treffen, sondern auch bei der Formulierung von Richtlinien und der schnellen Umsetzung von Richtlinieniterationen zu helfen .
„Wir glauben, dass dies eine positivere Vision für die Zukunft digitaler Plattformen bieten kann. KI kann den Online-Verkehr gemäß plattformspezifischen Richtlinien regulieren und die mentale Belastung von Inhaltsmoderatoren verringern“, sagte OpenAIOffizieller Blogschrieb: „Jeder, der die OpenAI-API verwendet, kann mit dieser Methode sein eigenes KI-gestütztes Überprüfungssystem erstellen.“ Ihren Testergebnissen zufolge kann das GPT-4-basierte Überprüfungstool sechs reguläre Szenarien an einem Tag und einer monatlichen Arbeitsbelastung abschließen.
Tatsächlich haben viele Plattformen bereits KI eingeführt, aber die meisten von ihnen sind „kleine vertikale Unterteilungsmodelle für maschinelles Lernen“ und können relativ begrenzte Hilfe bieten. Selbst mit einer solchen Technologie kann die psychische Gesundheit menschlicher Moderatoren dennoch beeinträchtigt werden. Im Jahr 2020 stimmte Meta beispielsweise zu, mehr als 10.000 Rezensenten jeweils mindestens 1.000 US-Dollar zu zahlen, um den erlittenen psychischen Schaden zu kompensieren. Das neue System, das auf ChatGPT basiert, sollte die menschlichen Investitionen reduzieren, muss aber dennoch „Menschen einbeziehen, um die Ergebnisse und Ergebnisse zu überwachen, zu überprüfen und zu verbessern“.
