Mehr als 15.000 Klicks hatte die Fake-News-Story erhalten, als sie den Behörden bekannt wurde | Repräsentatives Foto: iStock
Die chinesische Polizei hat einen Mann festgenommen, weil er angeblich gefälschte Nachrichten über ein Zugunglück generiert und sie mithilfe von künstlicher Intelligenz online verbreitet hat, um „Informationen zusammenzustellen“ und sie auf mehreren Konten zu veröffentlichen, was Berichten zufolge Chinas erste Verhaftung wegen Missbrauchs von ChatGPT war.
Die Polizei in der nordwestlichen Provinz Gansu teilte in einer Erklärung am Sonntag mit, dass ein Verdächtiger mit dem Nachnamen Hong festgenommen worden sei, weil er „Technologie künstlicher Intelligenz verwendet habe, um falsche und unwahre Informationen zu erfinden“.
Fake-News-Artikel
Der Fall erregte zum ersten Mal die Aufmerksamkeit der Cyber-Abteilung eines Bezirkspolizeibüros, als sie einen gefälschten Nachrichtenartikel entdeckten, in dem behauptet wurde, neun Menschen seien bei einem Nahverkehrsunfall am 25. April in Hongkong getötet worden Süd China morgen Post am Montag gemeldet.
Lesen Sie auch: Cyberkriminelle nutzen ChatGPT aus, um Malware über FB-Konten zu verbreiten: CloudSEK
Die Cybersicherheitsbeamten im Landkreis Kongtong fanden den Artikel, der gleichzeitig von mehr als 20 Konten auf Baijiahao gepostet wurde, einer Plattform im Blog-Stil, die vom chinesischen Suchmaschinengiganten Baidu betrieben wird.
Die Geschichten hätten mehr als 15.000 Klicks erhalten, als die Behörden davon Kenntnis erlangten, hieß es.
Die Abteilung für öffentliche Sicherheit von Gansu sagte, Hong sei des Verbrechens verdächtigt worden, „Streit angezettelt und Ärger provoziert zu haben“, eine Anklage, die normalerweise mit einer Höchststrafe von fünf Jahren geahndet wird. In Fällen, die als besonders schwerwiegend gelten, können Täter jedoch mit zehn Jahren Gefängnis und zusätzlichen Strafen belegt werden, berichtete die Post.
Verhaftung des Täters
Dies ist das erste Mal, dass die Öffentlichkeit auf eine Verhaftung durch chinesische Behörden aufmerksam gemacht wird, nachdem Pekings erste Bestimmungen zur Regulierung der Verwendung von Deepfake-Technologie im Januar offiziell in Kraft getreten sind, hieß es.
Die Polizei sagte, sie habe die Ursprünge des Artikels auf ein Unternehmen zurückgeführt, das dem Verdächtigen Hong gehörte und persönliche Medienplattformen betrieb, die in Shenzhen in der Provinz Guangdong in Südchina registriert waren. Etwa 10 Tage später durchsuchte ein Polizeiteam Hongs Wohnung und seinen Computer und nahm ihn fest.
In der Erklärung heißt es, Hong habe gestanden, Baijiahaos Duplizierungsprüffunktion umgangen zu haben, um auf mehreren von ihm erworbenen Konten zu veröffentlichen. Er habe die Elemente der in China angesagten sozialen Geschichten der vergangenen Jahre in ChatGPT eingegeben, um schnell verschiedene Versionen derselben gefälschten Geschichte zu produzieren, und sie auf seine Baijiahao-Konten hochgeladen, hieß es.
Während ChatGPT für chinesische IP-Adressen nicht direkt verfügbar ist, können chinesische Benutzer dennoch auf seinen Dienst zugreifen, wenn sie über eine zuverlässige VPN-Verbindung verfügen.
Chinesische IT-Unternehmen experimentierten mit ihren Versionen von ChatGPT, nachdem Microsoft und google ihre Innovationen angekündigt hatten.
Auge auf soziale Medien
China überwacht seine sozialen Medien durch Firewalls genau, insbesondere Sina Weibo, das über 592 Millionen Nutzer hat, um sicherzustellen, dass keine kritischen Inhalte gegen die regierende Kommunistische Partei Chinas (KPCh) gerichtet werden.
Chinas oberste Internetregulierungsbehörde hat seit langem die Besorgnis geäußert, dass die ungeprüfte Entwicklung und Nutzung der Deep-Synthese-Technologie zu ihrem Einsatz bei kriminellen Aktivitäten wie Online-Betrug oder Verleumdung führen könnte.
Lesen Sie auch: Neue Methoden müssen erfunden werden, um Studenten im Zeitalter von ChatGPT zu testen
Da ChatGPT in den letzten Monaten viral geworden ist, haben Chinas Strafverfolgungsbehörden wiederholt Misstrauen und sogar Warnungen über die Technologie geäußert.
In einem der ersten Kommentare des chinesischen Sicherheitsapparats zum Chatbot hatte die Polizei in Peking die Öffentlichkeit im Februar ausdrücklich davor gewarnt, sich vor Gerüchten zu hüten, die von ChatGPT generiert wurden, berichtete die Post.
(Mit Agentureingaben)
