Wu Zhaohui, Chinas Vizeminister für Wissenschaft und Technologie, nahm an der Konferenz teil und präsentierte Vorschläge, die sich für stärkere technische Risikokontrollen in der KI-Governance einsetzen.

Zhu Jun und Su Hang von der Abteilung für Informatik und Technologie der Tsinghua-Universität sagten in einem Papier, dass Kriminelle diese inhärenten KI-Schwachstellen ausnutzen könnten, um schädliche Inhalte zu produzieren. Wie diese Schwächen ausgenutzt werden könnten, wurde in dem Papier nicht näher erläutert.

„Da groß angelegte Stiftungsmodelle wie chatgpt und Bard zunehmend für verschiedene Aufgaben genutzt werden, werden ihre Sicherheitsprobleme zu einem dringenden Anliegen für die Öffentlichkeit“, erklärten sie in ihrem im Oktober auf der arXiv-Website veröffentlichten Artikel.

Baidu führt eine kostenpflichtige Version von Ernie Bot ein, da Unternehmen von KI-Chatbots profitieren wollen

Das Forschungsteam skizzierte zwei Arten gegnerischer Angriffe gegen MLLMs: Angriffe auf Bildmerkmale und Angriffe auf Textbeschreibungen.

Ersteres verändert die Merkmale einer Stichprobe und wirkt sich auf nachfolgende Urteile aus. Letzteres greift den gesamten Prozess an, was dazu führt, dass Beschreibungen generiert werden, die von den korrekten abweichen, was die Maschine verwirrt.

Die gegnerischen Angriffe führten zu winzigen, fast unmerklichen Veränderungen am ursprünglichen Bild. Für das menschliche Auge zeigten die veränderten Proben nahezu keinen Unterschied zum Originalbild.

Bard – mit seinen Gesichtserkennungs- und Toxizitätserkennungsmechanismen – lehnt Bilder mit Gesichtern oder gewalttätigen, blutigen oder pornografischen Inhalten aktiv ab, um die Privatsphäre zu schützen und Missbrauch zu verhindern.

Der gesamte Entscheidungsprozess von MLLMs ist eine „Black Box“, deren Architektur und Parameter unbekannt bleiben. Die Algorithmen zur Gesichts- und Toxizitätserkennung sind Wissenschaftlern jedoch vertraut, da Forscher Angriffe auf diese Untermodelle starten.

Das Team wandte ähnliche mathematische Manipulationen an und sammelte manuell Fotos, um Bard anzugreifen. Ihrer Studie zufolge umgingen 38 Prozent der Bilder den Gesichtsdetektor und 36 Prozent den Toxizitätsdetektor.

Beispielsweise identifizierte Bard unter Verletzung seiner eigenen Datenschutzbestimmungen einen koreanischen Sänger und lieferte detaillierte Inhaltsbeschreibungen für ein Bild einer Gruppe bewaffneter Soldaten, das Gewaltdarstellungen enthielt.

Das Experiment unterstreicht das Potenzial böswilliger Angreifer, Bard zu nutzen, um unangemessene Beschreibungen schädlicher Inhalte zu erstellen.

Diese Ergebnisse legen nahe, dass die meisten MLLMs Schwachstellen bei der Erkennung von Bildinhalten aufweisen. Aus dem Code, den das chinesische Team mit dem Papier bereitgestellt hat, können 200 generierte gegnerische Beispiele KI-Modelle dazu verleiten, falsche Bildbeschreibungen auszugeben, mit einer Erfolgsquote von 22 Prozent gegen Bard, 26 Prozent Erfolg gegen Bing Chat und einem Angriffserfolg von 86 Prozent Rate gegen Ernie Bot.

„Die aktuellen Abwehrmechanismen von Bard können durch gegnerische Beispiele leicht umgangen werden, was die Notwendigkeit gezielter Abwehrmaßnahmen unterstreicht, um die Sicherheit von MLLMs zu gewährleisten“, sagte das Team in dem Papier.