Hongkong (CNN) Die Polizei in China hat einen Mann festgenommen, von dem sie sagen, dass er chatgpt verwendet hat, um gefälschte Nachrichten zu erstellen und online zu verbreiten, was staatliche Medien als den ersten Kriminalfall des Landes im Zusammenhang mit dem KI-Chatbot bezeichnet haben.

Laut a Stellungnahme von der Polizei in der nordwestlichen Provinz Gansu benutzte der Verdächtige angeblich ChatGPT, um einen gefälschten Bericht über ein Zugunglück zu erstellen, den er danngewinnbringend online gestellt. Der Artikel habe rund 15.000 Aufrufe erhalten, teilte die Polizei am Sonntag mit.

ChatGPT, entwickelt von Microsoft (MSFT)-unterstützte OpenAI, ist in China verboten, obwohl Internetnutzer virtuelle private Netzwerke (VPN) verwenden können, um darauf zuzugreifen.

Zugunfälle sind in China seit 2011 ein heikles Thema, als die Behörden unter Druck standen, zu erklären, warum die staatlichen Medien es versäumt hatten, rechtzeitig über a Zusammenstoß des Hochgeschwindigkeitszugs in der Stadt Wenzhou, die zu 40 Todesfällen führte.

Die Behörden von Gansu sagten, der Verdächtige mit dem Nachnamen Hong sei am 5. Mai in der Stadt Dongguan in der südlichen Provinz Guangdong verhört worden.

„Hong benutzte moderne Technologie, um falsche Informationen zu fabrizieren und sie im Internet zu verbreiten, was weit verbreitet wurde“, sagte die Polizei von Gansu in der Erklärung.

„Sein Verhalten lief darauf hinaus, Streit anzufangen und Ärger zu provozieren“, fügten sie hinzu und erklärten TDie Straftat, derer Hong beschuldigt wurde.

Neue Regeln

PDie Polizei sagte, die Verhaftung sei die erste in Gansu seit der Verabschiedung durch die chinesische Cyberspace-Verwaltung neue Vorschriften im Januar, um die Verwendung von Deepfakes einzudämmen. Der staatliche Sender CGTN sagt, es sei die des Landes erste Festnahme einer Person, die beschuldigt wird, ChatGPT verwendet zu haben, um gefälschte Nachrichten zu fabrizieren und zu verbreiten.

Deep Fake, offiziell als Deep Synthesis bekannt, bezieht sich auf hochrealistische textliche und visuelle Inhalte, die von künstlicher Intelligenz generiert werden.

Die neue Gesetzgebung hindert Benutzer daran, Deep-Fake-Inhalte zu Themen zu erstellen, die bereits durch bestehende Gesetze in Chinas stark zensiertem Internet verboten sind. Außerdem werden Verfahren zum Entfernen von Inhalten beschrieben, die als falsch oder schädlich erachtet werden.

Die Verhaftung erfolgte auch inmitten einer 100-tägigen Kampagne, die im März von der Internetabteilung des Ministeriums für öffentliche Sicherheit gestartet wurde, um gegen die Verbreitung von Internetgerüchten vorzugehen.

Seit Anfang des Jahres haben chinesische Internetgiganten wie z Baidu (ANFANG) Und Ali Baba (BABA) haben versucht, OpenAI einzuholen, indem sie ihre eigenen Versionen des ChatGPT-Dienstes gestartet haben.

Baidu stellte im März „Wenxin Yiyan“ oder „ERNIE Bot“ vor. Zwei Monate später brachte Alibaba „Tongyi Qianwen“ auf den Markt, was grob übersetzt „Suche nach Wahrheit durch Stellen von tausend Fragen“ bedeutet.

In einem Richtlinienentwurf, der letzten Monat herausgegeben wurde, um öffentliches Feedback einzuholen, sagte Chinas Regulierungsbehörde für den Cyberspace, dass generative KI-Dienste Sicherheitsüberprüfungen unterzogen werden müssten, bevor sie funktionieren könnten.

Dienstanbieter müssen außerdem die wahre Identität der Benutzer überprüfen und Einzelheiten über den Umfang und die Art der von ihnen verwendeten Daten, ihre grundlegenden Algorithmen und andere technische Informationen bereitstellen.