Es ist schwierig zu erkennen, wann Text von Tools wie chatgpt generiert wurde. Beliebte Erkennungstools mit künstlicher Intelligenz wie GPTZero können Benutzern eine gewisse Orientierung bieten, indem sie ihnen mitteilen, wann etwas von einem Bot und nicht von einem Menschen geschrieben wurde, aber selbst spezielle Software ist nicht narrensicher und kann Fehlalarme ausspucken.

Als Journalist, der vor über einem Jahr mit der Berichterstattung über KI-Erkennung begann, wollte ich einige der besten Artikel von WIRED zu diesem Thema zusammenstellen, um Lesern wie Ihnen ein besseres Verständnis dieses komplizierten Themas zu vermitteln.

Haben Sie noch weitere Fragen zum Erkennen von Ergebnissen von ChatGPT und anderen Chatbot-Tools? Melden Sie sich für meinen AI Unlocked-Newsletter an und wenden Sie sich direkt an mich, wenn Sie Fragen zum Thema KI haben, die Sie beantwortet haben möchten oder WIRED mehr darüber erfahren möchten.

Februar 2023 von Reece Rogers

In diesem Artikel, der etwa zwei Monate nach dem Start von ChatGPT geschrieben wurde, begann ich, mich mit der Komplexität der KI-Texterkennung auseinanderzusetzen und auch damit, was die KI-Revolution für Autoren bedeuten könnte, die online veröffentlichen. Edward Tian, ​​der Gründer dahinter GPTZerosprach mit mir darüber, wie sein KI-Detektor sich auf Faktoren wie Textvarianz und Zufälligkeit konzentriert.

Konzentrieren Sie sich beim Lesen auf den Abschnitt über Textwasserzeichen: „Ein Wasserzeichen kann möglicherweise bestimmte Wortmuster so kennzeichnen, dass sie für den KI-Textgenerator tabu sind.“ Obwohl es sich um eine vielversprechende Idee handelte, waren die Forscher, mit denen ich gesprochen habe, bereits skeptisch hinsichtlich ihrer möglichen Wirksamkeit.

September 2023 von Christopher Beam

Dieser Artikel ist ein fantastischer Artikel aus der letztjährigen Oktoberausgabe von WIRED und gibt Ihnen einen Einblick in die Denkweise von Edward Tian, ​​als er daran arbeitete, die Reichweite und Erkennungsfähigkeiten von GPTZero zu erweitern. Der Fokus darauf, wie sich KI auf die Schularbeit ausgewirkt hat, ist von entscheidender Bedeutung.

Die KI-Texterkennung steht für viele Lehrkräfte im Klassenzimmer an erster Stelle, wenn sie Arbeiten bewerten und möglicherweise ganz auf Aufsatzaufgaben verzichten, weil Schüler heimlich Chatbots verwenden, um Hausaufgaben zu erledigen. Während einige Studierende generative KI möglicherweise als Brainstorming-Tool verwenden, verwenden andere sie, um ganze Aufgaben zu erstellen.

September 2023 von Kate Knibbs

Sind Unternehmen dafür verantwortlich, Produkte zu kennzeichnen, die möglicherweise durch KI generiert werden? Kate Knibbs untersuchte, wie potenziell urheberrechtsverletzende, KI-generierte Bücher auf Amazon zum Verkauf angeboten wurden, obwohl einige Startups glaubten, die Produkte könnten mit spezieller Software erkannt und entfernt werden. Eine der Kerndebatten über die KI-Erkennung dreht sich darum, ob das Potenzial für Fehlalarme – von Menschen geschriebener Text, der versehentlich als Werk von KI gekennzeichnet wird – die Vorteile der Kennzeichnung algorithmisch generierter Inhalte überwiegt.

August 2023 von Amanda Hoover

Über reine Hausaufgaben hinaus erscheinen KI-generierte Texte zunehmend in Fachzeitschriften, wo sie ohne ordnungsgemäße Offenlegung oft verboten sind. „Durch KI verfasste Arbeiten könnten auch die Aufmerksamkeit von guter Arbeit ablenken, indem sie den Pool an wissenschaftlicher Literatur verwässern“, schreibt Amanda Hoover. Eine mögliche Strategie zur Lösung dieses Problems besteht darin, dass Entwickler spezielle Erkennungstools entwickeln, die in von Experten begutachteten Artikeln nach KI-Inhalten suchen.

Oktober 2023 von Kate Knibbs

Als ich letzten Februar zum ersten Mal mit Forschern über Wasserzeichen zur KI-Texterkennung sprach, waren sie hoffnungsvoll, aber vorsichtig, was das Potenzial angeht, KI-Text mit bestimmten Sprachmustern zu prägen, die für menschliche Leser nicht erkennbar, für Erkennungssoftware jedoch offensichtlich sind. Rückblickend scheint ihre Besorgnis berechtigt zu sein.

Nur ein halbes Jahr später sprach Kate Knibbs mit mehreren Quellen, die KI-Wasserzeichen durchbrachen und ihre zugrunde liegende Schwäche als Erkennungsstrategie demonstrierten. Obwohl es nicht garantiert ist, dass es fehlschlägt, ist es weiterhin schwierig, KI-Text mit Wasserzeichen zu versehen.

April 2024 von Amanda Hoover

Ein Tool, mit dem Lehrer versuchen, KI-generierte Unterrichtsarbeit zu erkennen, ist Turnitin, eine Plagiatserkennungssoftware, die KI-Erkennungsfunktionen hinzufügt. (Turnitin gehört Advance, der Muttergesellschaft von Condé Nast, die WIRED herausgibt.) Amanda Hoover schreibt: „Chechitelli sagt, dass sich die Mehrheit der Kunden des Dienstes für den Kauf der KI-Erkennung entschieden haben. Aber das Risiko falsch positiver Ergebnisse und Voreingenommenheit gegenüber Englischlernern hat einige Universitäten dazu veranlasst, die Tools vorerst aufzugeben.“

KI-Detektoren neigen eher dazu, geschriebene Inhalte fälschlicherweise zu kennzeichnen jemand, dessen Muttersprache nicht Englisch ist als KI als das von jemandem, der Muttersprachler ist. Während Entwickler weiterhin an der Verbesserung von KI-Erkennungsalgorithmen arbeiten, bleibt das Problem fehlerhafter Ergebnisse ein zentrales Hindernis, das es zu überwinden gilt.