Laut Wall Street Journal hat OpenAI bereits ein KI-Erkennungstool mit einer Genauigkeit von 99,9 % entwickelt. OpenAI debattiert jedoch seit fast zwei Jahren intern darüber, ob dieses Tool veröffentlicht werden soll, und es ist immer noch nicht zur Verwendung freigegeben.
Einerseits kann dieses Tool komplexe Probleme lösen, die sich aus generativer KI ergeben, insbesondere wenn Studenten KI zur Erstellung von Arbeiten und Aufgaben verwenden. Wenn es veröffentlicht werden kann, wird es die Situation im Bildungssektor erheblich verbessern. KI-Erkennung Das Tool verringert die Bereitschaft der chatgpt-Benutzer, es zu verwenden, und wirkt sich negativ auf die Gewinne von OpenAI aus.
Seien Sie vorsichtig, wenn ChatGPT zu einem Papiergenerator wird. Die meisten Benutzer stimmen dem KI-Erkennungstool zu
Laut einer Umfrage des Center for Democracy & Technology gaben 59 % der Lehrer an Mittel- und Oberstufenschulen an, sie seien davon überzeugt, dass einige Schüler KI zum Ausfüllen von Berichten nutzen. Um die Lernergebnisse der Schüler genau zu bewerten und die Fairness der Ergebnisse sicherzustellen, benötigt die Bildungsgemeinschaft dringend ein zuverlässiges Erkennungstool, um festzustellen, ob die Lernergebnisse der Schüler durch KI generiert werden.
Laut einer von OpenAI im April 2023 durchgeführten Umfrage unter ChatGPT-Benutzern beträgt das Verhältnis zwischen Unterstützung und Ablehnung von KI-Erkennungstools 4 zu 1, was darauf hindeutet, dass Benutzer sich im Allgemeinen über die Notwendigkeit dieses Tools einig sind. Gleichzeitig gaben jedoch fast 30 % der Nutzer an, dass sie ChatGPT weniger verwenden und auf andere KI-Tools zurückgreifen würden, wenn ChatGPT Wasserzeichen zu Artikeln hinzufügen würde, um zu erkennen, ob sie von KI generiert wurden.
OpenAI nutzt Wasserzeichen zur Erkennung von KI-Spuren und befürchtet, dass die Technologie geknackt wird
Wie funktioniert dieses KI-Erkennungstool? Interne Dokumente von OpenAI zeigen, dass durch eine geringfügige Änderung der KI-Token-Auswahlstrategie der von ChatGPT generierte Text ein erkennbares Wasserzeichen hinterlässt, ohne die Qualität des generierten Inhalts zu beeinträchtigen. Mit diesen Wasserzeichen kann der Artikel zu 99,9 % bestätigt werden Ob er von KI generiert wurde .
Bei OpenAI bestehen Bedenken, dass die Wasserzeichentechnologie geknackt werden könnte, wenn sie zu vielen Menschen zur Nutzung zugänglich gemacht wird. Daher wird derzeit darüber diskutiert, das Tool direkt Bildungseinrichtungen oder Unternehmen zur Verfügung zu stellen, um Schulen bei der Bestätigung zu unterstützen, ob die Arbeiten von Schülern erstellt wurden KI.
Wie können die abgeleiteten Probleme der KI gelöst und gleichzeitig der Verlust von Benutzern vermieden werden? Wie kann OpenAI beides in Einklang bringen? Die Jury steht noch nicht fest. Ein OpenAI-Sprecher sagte: „Angesichts der damit verbundenen Komplexität und der möglichen Auswirkungen auf das breitere Ökosystem über OpenAI hinaus glauben wir, dass dies sorgfältig abgewogen werden muss.“
Weiterführende Lektüre: OpenAI erklärt google den Krieg! Starten Sie „SearchGPT“, um Suchmaschinen anzugreifen. Was ist daran so toll? Vernacular Technology｜Was ist ein Modellkollaps? Warum ist KI-„Inzucht“ schädlich für das Modelltraining?
Quelle:Wallstreet Journal、Der Rand
Verantwortlicher Redakteur: Su Rouwei
