China hat seine erste bekannte Verhaftung in einem Fall vorgenommen, in dem es um den Missbrauch von chatgpt durch einen Mann ging, um angeblich gefälschte Nachrichten über ein Zugunglück zu verbreiten.
Die Polizei in der nordwestlichen Provinz Gansu verhaftete den Mann, der nur mit seinem zweiten Namen Hong identifiziert wurde, weil er die Technologie der künstlichen Intelligenz verwendet hatte, um angeblich Variationen eines gefälschten Nachrichtenartikels zu erstellen und ihn dann in den sozialen Medien des Landes zu teilen, wo er weit verbreitet war.
Lokale Berichte sagten, dass die gefälschte Nachricht über den Absturz Elemente aus verschiedenen Trendnachrichten enthielt.
Die gefälschten Nachrichten besagten, dass bei dem Absturz am 25. April in Gansu neun Menschen ums Leben kamen.
Das Stück erhielt mehr als 15.000 Klicks in den chinesischen sozialen Medien, als die Polizei von seiner Unechtheit erfuhr.
Lokale Cybersicherheitsbeamte bemerkten die Verbreitung der gefälschten Nachrichten und leiteten eine Untersuchung ein, die zur Verhaftung von Herrn Hong führte.
Anfang Januar dieses Jahres traten Chinas erste Vorschriften in Bezug auf Deep-Fake-Technologieanwendungen offiziell in Kraft. Die Vorschriften sollen dazu beitragen, die Entwicklung der Branche der künstlichen Intelligenz voranzutreiben und deren Missbrauch zu verhindern.
Die Vorschriften, die von der Cyberspace Administration of China, dem Ministerium für Industrie und Informationstechnologie und dem Ministerium für öffentliche Sicherheit veröffentlicht wurden, besagen, dass die mit KI erstellten Videos und Fotos „eindeutig gekennzeichnet“ sein müssen, um Verwirrung zu vermeiden.
„Die von China erlassene spezielle Regulierung für Deep-Synthesis-Dienste hat und wird weiterhin weitreichende Auswirkungen auf die gesunde Entwicklung von Internet-Informationsdiensten haben“, sagte Meng Dan, Direktor des Instituts für Informationstechnik an der Chinesischen Akademie der Wissenschaften die Zeit.
Die Polizei in Gansu sagte, ihre Untersuchung habe insgesamt 21 Konten auf Baijiahao – einer Blog-ähnlichen Plattform des chinesischen Technologieunternehmens Baidu – ergeben, die gleichzeitig verschiedene Versionen des Nachrichtenartikels mit unterschiedlichen Unfallorten veröffentlichten.
Die Polizei sagte, sie habe alle 21 Konten auf Baijiahao verfolgt, die die von der KI generierten gefälschten Nachrichten an eine Marketingfirma in Shenzhen weitergegeben hatten.
Herr Hong, der Vertreter des Unternehmens, wurde später festgenommen und von der Polizei wegen „Streitanzettelung und Provokation von Ärger“ angeklagt.
