Mit der Popularisierung von Mobilfunknetzen und Smartphones wurde die Hürde für den Zugang zum Internet gesenkt, und auch die Überprüfung von Inhalten ist zu einem der schwierigsten Probleme im Internet geworden. Angesichts dieser Situation glaubt OpenAI, dass ChatGPT helfen kann. Sie versuchen, dieses groß angelegte multimodale Modell zu nutzen, um ein „skalierbares, konsistentes und anpassbares System zur Überprüfung von Inhalten“ zu schaffen, das der Plattform nicht nur dabei helfen kann, Überprüfungsentscheidungen zu treffen, sondern auch dabei helfen kann, Richtlinien zu formulieren und Richtlinieniterationen schnell umzusetzen.
„Wir glauben, dass dies eine positivere Vision für die Zukunft digitaler Plattformen bieten kann, bei der KI den Online-Verkehr gemäß plattformspezifischen Richtlinien regulieren und die mentale Belastung von Inhaltsmoderatoren verringern kann.“ OpenAI inOffizieller Blog„Jeder, der die OpenAI-API verwendet, kann diese Methode verwenden, um sein eigenes KI-gestütztes Überprüfungssystem zu erstellen“, heißt es in dem Artikel. Den Testergebnissen zufolge konnte das GPT-4-basierte Überprüfungstool sechs reguläre Programme an einem Tag abschließen . monatliche Arbeitsbelastung.
Tatsächlich haben viele Plattformen zuvor KI eingeführt, aber die meisten davon sind „kleine vertikale Unterteilungsmodelle für maschinelles Lernen“, die relativ begrenzte Hilfe bieten können. Selbst mit einer solchen Technologie könnte die psychische Gesundheit menschlicher Prüfer immer noch leiden. Im Jahr 2020 stimmte Meta beispielsweise zu, mehr als 10.000 Wirtschaftsprüfern jeweils mindestens 1.000 US-Dollar zu zahlen, um den emotionalen Schaden zu kompensieren, den sie erlitten hatten. Das neue System, das auf ChatGPT basiert, sollte den menschlichen Input reduzieren, muss aber dennoch „Menschen einbeziehen, um die Ergebnisse und Ausgaben zu überwachen, zu überprüfen und zu verfeinern“.
