Vier chinesische Cyberkriminelle wurden festgenommen, nachdem sie chatgpt zur Entwicklung von Ransomware genutzt hatten. Die Klage ist die erste ihrer Art in China, wo der beliebte Chatbot von OpenAI nicht legal verfügbar ist und Peking strenger gegen ausländische KI vorgeht.
Am Donnerstag teilte die staatliche Nachrichtenagentur Xinhua mit, dass der Angriff erstmals von einem namentlich nicht genannten Unternehmen in Hangzhou, der Hauptstadt der Provinz Ost-Zhejiang, gemeldet worden sei, dessen Systeme durch Ransomware blockiert worden seien.
Um den Zugriff wiederherzustellen, wollten die Hacker 20.000 Tether, einen Kryptowährungs-Stablecoin, der eins zu eins mit dem US-Dollar korreliert.
Die Verdächtigen gestanden, „Versionen von Ransomware geschrieben, das Programm mit Hilfe von ChatGPT optimiert, Schwachstellenscans durchgeführt, sich Zugang durch Infiltration verschafft, Ransomware implantiert und Erpressungen durchgeführt zu haben“, als die Polizei sie Ende November in Peking und an zwei anderen Orten festnahm in der Inneren Mongolei.
Der Bericht hat nicht angegeben, ob die Nutzung von ChatGPT in den Gebühren enthalten war. Aufgrund der Bemühungen Pekings, den Zugang zu ausländischen Technologien der generativen künstlichen Intelligenz einzuschränken, bewegt sich das Unternehmen in China in einer rechtlichen Grauzone.
Generative KI hat zahlreiche Herausforderungen mit sich gebracht
Chinesische Nutzer interessierten sich für ChatGPT und verwandte Produkte, nachdem OpenAI Ende 2022 seinen Chatbot auf den Markt brachte. In sanktionierten Märkten wie Nordkorea und Iran sowie in China und Hongkong hat OpenAI jedoch Internetprotokolladressen blockiert.
Mithilfe virtueller privater Netzwerke (VPNs) und einer Telefonnummer aus einer unterstützten Region können einige Benutzer Einschränkungen umgehen.
Laut einem Bericht der Anwaltskanzlei King & Wood Mallesons bestehen „Compliance-Risiken“ für inländische Unternehmen, die VPNs aufbauen oder mieten, um auf OpenAI-Dienste wie ChatGPT und den Text-zu-Bild-Generator Dall-E zuzugreifen.
Angesichts der Popularität der generativen KI ist die Zahl der rechtlichen Probleme im Zusammenhang mit der Technologie sprunghaft angestiegen. Die Pekinger Polizei warnte im Februar vor dem Potenzial von ChatGPT, „Verbrechen zu begehen und Gerüchte zu verbreiten“.
In diesem Jahr veröffentlichte die US-amerikanische Federal Trade Commission eine Warnung vor Betrügern, die Klonstimmen mit künstlicher Intelligenz (KI) nutzen, um Verbraucher in echte Menschen zu täuschen. Dies kann mit nur einer kurzen Audioprobe der Stimme einer Person erfolgen.
Diese Woche reichte die New York Times eine Klage gegen OpenAI und Microsoft, den Hauptinvestor des Unternehmens, ein und behauptete, dass die leistungsstarken Modelle der Firmen anhand von Millionen von Artikeln nicht ordnungsgemäß trainiert worden seien. Es wird erwartet, dass der Fall hinsichtlich seiner möglichen rechtlichen Konsequenzen genau beobachtet wird.
In jüngster Zeit haben die Bedenken hinsichtlich der Cybersicherheit und des geistigen Eigentums aufgrund der generativen KI zugenommen, was die politischen Entscheidungsträger dazu veranlasst, darüber nachzudenken, wie sie reagieren sollen.
