Ein Mann aus der chinesischen Provinz Gansu wurde verhaftet, weil er angeblich chatgpt verwendet hatte, um gefälschte Nachrichten über einen Zugunglück zu generieren. Dies war Chinas erste Festnahme im Rahmen einer KI-bezogenen Untersuchung, während Peking die Deepfake-Technologie stärkt.
Der Artikel, in dem behauptet wurde, bei dem Unfall seien neun Bauarbeiter in einer Stadt in Gansu im Nordwesten Chinas ums Leben gekommen, habe nach seiner Veröffentlichung in den sozialen Medien am 25. April mehr als 15.000 Klicks erhalten, teilte das örtliche Polizeibüro der Stadt Pingliang mit.
Chinas neue „Deepfake“-Regeln verbieten Dienstanbietern und Nutzern, diese Technologie zur Produktion, Verbreitung und Herstellung falscher Informationen zu nutzen.
Diese Regeln, die am 10. Januar in Kraft traten, zielen darauf ab, den Einsatz generativer KI-Technologie zur Änderung von Online-Inhalten einzuschränken.
Laut Aussage der Polizei meldeten insgesamt 25 Baijiahao-Konten, eine blogähnliche Plattform des chinesischen Technologieriesen Baidu, den „Absturz“ mit IP-Adressen von verschiedenen Standorten.
Der Verdächtige mit Nachnamen Hong wurde identifiziert und wegen der Zusammenstellung falscher Informationen verhaftet, nachdem die Polizei alle Konten aufgespürt und festgestellt hatte, dass sein Unternehmen darin verwickelt war.
Hong habe angeblich von ChatGPT generierte Nachrichten bearbeitet und auf die Baidu-eigene Plattform hochgeladen, teilte die örtliche Polizei mit und fügte hinzu, dass die Ermittlungen noch andauern.
