In einer wichtigen Entwicklung wurde ein Mann von der chinesischen Polizei festgenommen, weil er das chatgpt-Sprachmodell verwendet hatte, um gefälschte Nachrichten online zu erstellen und zu verbreiten. Dies ist der erste bekannte Fall, in dem eine Person für den Einsatz einer solchen Technologie zur Verantwortung gezogen wird.
Der Verdächtige wurde von der Polizei der Provinz Gansu im Nordwesten Chinas festgenommen. Laut einer am Sonntag veröffentlichten offiziellen Erklärung wurde der Mann namens Hong wegen „Einsatz künstlicher Intelligenz zur Erstellung falscher Informationen“ festgenommen.
Lesen Sie die ChatGPT-Herausforderungen, über die niemand spricht: Warum KI zunehmend mit Einschränkungen konfrontiert ist
Was wirklich passierte?
Die Ermittlungen wurden von der Cyberabteilung der Kreispolizeibehörde geleitet, die einen erfundenen Nachrichtenartikel aufdeckte, in dem behauptet wurde, bei einem Zugunglück am 25. April seien neun Menschen ums Leben gekommen.
Die gefälschten Nachrichten wurden gleichzeitig von mehr als 20 Konten auf Baijiahao gepostet, einer beliebten Blogging-Plattform des chinesischen Suchriesen Baidu. Als die Behörden auf die Situation aufmerksam wurden, hatten die Artikel über 15.000 Klicks erhalten.
China und tiefe Kontrolle
Es ist bekannt, dass China seit Inkrafttreten der neuen Regeln im Januar Maßnahmen ergreift, um den Einsatz von Technologien zu regulieren, die zur Erstellung gefälschter Inhalte verwendet werden können. Diese Regeln erfordern, dass mit Deep-Synthese-Technologie erstellte Videos und Fotos deutlich gekennzeichnet werden, um Verwirrung in der Öffentlichkeit zu vermeiden.
Neugierig! Die Deep Synthesis Administrative Regulations for Internet Information Services definieren Deep Synthesis als den Einsatz von Technologien wie Deep Learning und Augmented Reality zur Erstellung von Text, Bildern, Audio, Video und virtuellen Szenarien.
Wie sieht es also mit der Untersuchung aus?
Den Ermittlern gelang es, den Ursprung des gefälschten Artikels auf ein Unternehmen des Verdächtigen Hong zurückzuführen. Das Unternehmen betrieb persönliche Medienplattformen mit Sitz in Shenzhen, einer Stadt in der Provinz Guangdong. Ungefähr zehn Tage nach der ersten Entdeckung durchsuchte die Polizei Hongs Haus, beschlagnahmte seinen Computer und nahm ihn anschließend fest.
Einer Polizeiaussage zufolge gab Hong zu, Baijiahaos Dublettenprüfungsfunktion durch die Verwendung mehrerer erworbener Konten umgangen zu haben. Er nutzte ChatGPT, um Elemente aus beliebten Social-Media-Storys vergangener Jahre in China hinzuzufügen, sodass er schnell verschiedene Versionen derselben Fake-Story erstellen konnte. Diese erfundenen Geschichten wurden dann auf seine Baijiahao-Konten hochgeladen.
In der Zwischenzeit hat Italien ChatGPT entsperrt, nachdem „die Fehler behoben“ wurden.
Es ist zu beachten, dass ChatGPT zwar nicht direkt von chinesischen IP-Adressen aus zugänglich ist, chinesische Benutzer den Dienst jedoch dennoch über eine sichere VPN-Verbindung (Virtual Private Network) nutzen können.
