Chinas oberste digitale Regulierungsbehörde hat diese Woche mutige neue Richtlinien vorgeschlagen, die das verbieten ChatGPT-Stil große Sprachmodelle, indem sie Inhalte ausspucken, von denen angenommen wird, dass sie die Staatsmacht untergraben oder den Sturz des kommunistischen politischen Systems des Landes befürworten. Experten, die mit Gizmodo sprachen, sagten, die neuen Richtlinien seien die bisher deutlichsten Anzeichen für die Bereitschaft der chinesischen Behörden, ihren harten Online-Zensurapparat auf die aufstrebende Welt der generativen künstlichen Intelligenz auszudehnen. Chinas große Firewall umkreist jetzt AI.

„Wir sollten uns keine Illusionen machen. Die Partei wird die neuen Generative AI-Richtlinien einsetzen, um dieselbe Funktion der Zensur, Überwachung und Informationsmanipulation auszuüben, die sie unter anderen Gesetzen und Vorschriften zu rechtfertigen versucht hat“, Michael Caster, Asia Digital Program Manager für Artikel 19, eine Menschenrechtsorganisation konzentrierte sich auf die freie Meinungsäußerung im Internet, sagte Gizmodo.

Der Entwurf Richtlinienherausgegeben von der Cyberspace Administration of China, kommen dicht auf den Fersen von neuen generativen KI-Produkten aus Baidu, Alibaba, und andere chinesische Technologiegiganten. KI-Entwickler, die künftig in China tätig werden möchten, müssen ihre Produkte einer staatlichen Sicherheitsüberprüfung unterziehen, bevor sie der Öffentlichkeit zugänglich gemacht werden, und sicherstellen, dass alle von KI generierten Inhalte eindeutig gekennzeichnet sind. Chatbots müssen die Identität der Benutzer überprüfen, und ihre Ersteller sind verpflichtet, sicherzustellen, dass die von KI bereitgestellten Inhalte sachlich sind.bisher ein großes Problem für ihre amerikanischen Kollegen– und diskriminiert nicht die Rasse, ethnische Zugehörigkeit, den Glauben, das Land, die Region oder das Geschlecht der Benutzer.

Während die meisten dieser Schutzmaßnahmen im Einklang mit erscheinen Anrufe von KI-Sicherheitsexperten in anderen Ländern weichen die Richtlinien in Bezug auf potenziell subversive politische Inhalte stark voneinander ab. In dieser Frage will China strenge Maßnahmen verhängen, die weitgehend im Einklang mit seiner derzeitigen Politik zur Moderation von Reden in sozialen Medien stehen. Hier ist ein übersetzter Teil der vorgeschlagenen Richtlinien der Cyberspace Administration.

„Die durch generative künstliche Intelligenz generierten Inhalte sollten die Kernwerte des Sozialismus widerspiegeln und dürfen keine Subversion der Staatsmacht, Sturz des sozialistischen Systems, Aufstachelung zur Spaltung des Landes, Untergrabung der nationalen Einheit, Förderung von Terrorismus, Extremismus und Förderung enthalten ethnischer Hass und ethnische Diskriminierung, Gewalt, obszöne und pornografische Informationen, falsche Informationen und Inhalte, die die wirtschaftliche und soziale Ordnung stören können.“

Caster befürchtet, dass Pekings neue Richtlinien zur generativen KI zu einem harten Vorgehen gegen ausländische Artikel führen könnten, die von Chatbots übersetzt wurden, oder zu Vorschlägen, wie Internetnutzer VPNs oder andere Tools verwenden könnten, um den sogenannten Inhaltsfilter der Great Firewall des Landes zu umgehen. Caster hob die besonders hervor jüngste Festnahme eines Bloggers namens Ruan Xiaohuan, der wegen Anstiftung zur Untergrabung der Staatsmacht sieben Jahre inhaftiert war. KI-Modelle, die seine Schriften gemäß diesen Richtlinien erneut veröffentlichen, könnten mit Vergeltungsmaßnahmen rechnen.

„Dies sind die Arten von unabhängigen Informationen, die in China als subversiv gelten und die den neuen Richtlinien zuwiderlaufen würden, sollte ein Datensatz versehentlich aus seinem gezogen werden [Xiaohuan’s] Website bei der Bereitstellung generativer Inhalte“, sagte Caster.

Yaqiu Wang, Senior China Researcher von Human Rights Watch, sagte gegenüber Gizmodo, dass diese strengen Regeln, obwohl sie neu sind, „völlig erwartet“ würden. Auch ohne diese Richtlinien sagte Wang, sie glaube, dass chinesische Regierungsbeamte Unternehmen immer noch effektiv bestrafen könnten, wenn sie Inhalte verbreiten, die als kritisch gegenüber dem politischen System gelten. Wenn schriftliche Regeln vorhanden sind, die generative KI ausdrücklich erwähnen, wird es für Beamte administrativ einfacher, genaue Gesetze zu zitieren, wenn sie auf potenziell verletzende Technologieunternehmen abzielen.

„Auch ohne die Richtlinien können sie dasselbe tun“, sagte Wang. „Die Richtlinien sind nur ein bequemes Werkzeug, auf das sie verweisen können.“ Sie stimmte Casters Einschätzung zu und sagte, es scheine möglich, dass die chinesischen Behörden den Text der neuen KI-Regelentwürfe verwenden könnten, um friedliche und „völlig legitime Rede“ zu unterdrücken.

Große Technologiefirmen wie Baidu haben ihre Modelle wahrscheinlich bereits gebaut und trainiert, weil sie wussten, dass so etwas wie diese Einschränkungen passieren würde. Vorherige Berichterstattung aus dem Wall Street Journal zeigte, wie frühere Versionen chinesischer Chatbots ins Stocken gerieten, wenn ihnen kritische Fragen über den chinesischen Präsidenten Xi Jinping gestellt wurden oder wenn sie aufgefordert wurden, über chinesische Politik zu diskutieren. Berichten zufolge nennen einige frustrierte Benutzer die zensierten ChatGPT-Möchtegerns „ChatCCP“.

„Wenn Sie im chinesischen System operieren, wissen Sie, dass es Dinge gibt, über die Sie nicht sprechen können“, sagte Wang. „Die Richtlinien sind nur eine weitere Warnung.“

Was ist Chinas Cyberspace Administration und was will sie mit KI?

Die 2013 gegründete Cyberspace Administration of China (CAC) hat schnell entwickelt in den letzten Jahren und übernahm eine Rolle als führender Internetzensor des Landes und Server regulatorischer Albträume für schnell wachsende chinesische Technologieunternehmen. Das CAC war dafür verantwortlich, dass der chinesische Ride-Hailing-Gigant plötzlich geklopft wurde Habe ich aus den App Stores im Jahr 2021, nur wenige Tage danach Massiver Börsengang im Wert von 4,4 Milliarden US-Dollarund hat eine führende Rolle bei der Herstellung von zwei von Chinas gespielt am bedeutendsten und streng Datenschutzgesetze. Kritiker des CAC, wie Caster von Artikel 19, sagen, dass die enge Verbindung der Agentur zu Präsident Xi Jinping bedeutet, dass sie direkt an Zensurforderungen beteiligt ist, die von den höchsten Machtebenen weitergegeben werden.

Caster warnte davor, dass die vom CAC vorgeschlagenen Verbote von Inhalten, die Terrorismus oder Extremismus fördern, obwohl sie abstrakt lobenswert sind, in ähnlicher Weise als Waffe eingesetzt werden könnten, um gegen politische Andersdenkende oder marginalisierte Gruppen wie die muslimische Minderheit der Uiguren des Landes vorzugehen. In diesem Fall haben chinesische Regierungsbehörden stuft Uiguren als Extremisten ein um Handlungen zu rechtfertigen, die mehrere Menschenrechtsgruppen als staatlich sanktionierte Verfolgung bezeichnet haben. KI-generierter Inhalt, der einfach bestätigt Uiguren Geschichte oder Kultur könnten nach den neuen Richtlinien als Förderung des Extremismus angesehen werden, sagte Caster.

Chatbots aus den USA und China könnten in alternativen Realitäten existieren

Chinesische Regulierungsbehörden scheuen sich nicht, ihre Besorgnis über mögliche politische Einmischungen zu äußern, die in den USA hergestellten KI-Chatbots zugeschrieben werden. Im Februar gingen Tencent und Ant Group Berichten zufolge hart gegen Benutzer vor, die versuchten, auf ChatGPT von OpenAI zuzugreifen, von dem Regulierungsbehörden Berichten zufolge warnten, dass es dazu verwendet werden könnte, „falsche Informationen zu verbreiten“. Obwohl ChatGPT in China blockiert ist, teilten Benutzer von WeChat und anderen Apps Berichten zufolge den Austausch mit dem Modell, nachdem sie über VPNs darauf zugegriffen hatten. Einige der Antworten von ChatGPT, entsprechend The Guardian, wurden von den chinesischen Behörden als „im Einklang mit der politischen Propaganda der US-Regierung“ angesehen.

Auf der anderen Seite des Pazifiks äußern US-Gesetzgeber ähnliche Bedenken über in China hergestellte KI-Modelle. Sprechen bei einem Axios-Event im letzten MonatDer Vorsitzende des republikanischen Repräsentantenhauses China, Mike Gallagher, beschrieb chinesische KI-Modelle als Waffen, die Regierungsbeamte einsetzen könnten, um einen „orwellschen techno-totalitären Überwachungsstaat“ zu perfektionieren. Das mag dumm klingen, und das ist es auch, aber andere angesehenere China-Falken, wie der ehemalige Google-CEO Eric Schmidt, müssen die USA ebenfalls tun.“was auch immer notwendig ist”, um ein KI-Rennen gegen China zu gewinnen.

„Ich denke, unsere Herausforderung“, sagte Gallagher, „besteht darin, sicherzustellen, dass KI als Instrument für menschliches Gedeihen und Freiheit eingesetzt wird.“

Die Beschränkungen für ausländische Chatbots kommen zusammen mit einheimischen Marken wie Baidu und Alibaba, die versuchen, ihre eigenen ähnlichen Alternativen herauszubringen. Baidu zeigte seine eigene Alternative, genannt Ernie Bot, während einer vorab aufgezeichneten Demo im letzten Monat. Es hat einige Ähnlichkeiten mit den Modellen von OpenAI, aber Kritiker stellen fest, dass der Baidu-Konkurrent mit der grundlegenden Logik zu kämpfen schien. Intern das Wall Street Journal Anmerkungen, arbeitete Baidu rund um die Uhr und bemühte sich, sicherzustellen, dass Ernie in der Lage war, grundlegende Funktionen zu erfüllen. Alibaba ist vor kurzem veröffentlicht Tongyi Qianwen-Modelldas das Unternehmen für Firmenkunden geöffnet hat, zeichnet sich Berichten zufolge durch das Schreiben von Gedichten in mehreren Sprachen und das Lösen grundlegender mathematischer Probleme aus, hat aber auch mit grundlegenden Logikproblemen zu kämpfen.

Der offensichtliche Vorsprung der US-Technologieunternehmen bei großen Sprachmodellen ist zumindest vorerst teilweise den relativ strengeren KI-Vorschriften in China und dem Zufluss von Investitionen amerikanischer Unternehmen zu verdanken. Letztes Jahr, entsprechend Laut einer kürzlich von Stanford-Forschern durchgeführten Analyse investierten US-Unternehmen 47,4 Milliarden US-Dollar in KI-Projekte, eine Zahl, die 3,5-mal so hoch ist wie in China. Diese Zahlen stehen im Gegensatz zu den Behauptungen einiger US-amerikanischer KI-Enthusiasten, die angedeutet haben, dass US-Firmen ihren Vorsprung aufgrund eines nicht regulierenden Umfelds in China verlieren könnten.

„Es ist klar, dass China bei der Regulierung von KI mit der globalen Dynamik Schritt hält“, sagte Amba Kak, Executive Director des AI Now Institute, gegenüber Gizmodo. „Diese und andere regulatorische Schritte der chinesischen Regierung, wie zum Beispiel bei der Durchsetzung des Wettbewerbs, widersprechen direkt Behauptungen, dass chinesische Technologieunternehmen einen Vorteil im ,USA-gegen-China-KI-Rennen‘ haben, weil sie unreguliert bleiben.“

„Diese lose untermauerten Behauptungen sind gefährlich, weil sie verwendet werden, um gegen die Regulierung von Big-Tech-Firmen in den USA vorzugehen und einen Wettlauf nach unten zu fördern, wenn es um Standards für Datenschutz, Wettbewerb und Verbraucherschutz geht“, fügte Kak hinzu.