Das neueste Modell von OpenAI, chatgpt-4o, leitet Benutzer auf eine bösartige Website weiter, die sie mit gefälschten Virenwarnungen, gefälschten Softwareupdates und mehr spammt.

Entsprechend FuturismusChatGPT-4o empfiehlt Benutzern als Antwort auf einige Anfragen, eine Website namens County Local News zu besuchen (bitte besuchen Sie diese Site nicht, deshalb haben wir sie nicht verlinkt). Beim Aufrufen der Site werden eine Reihe von Popup-Warnungen angezeigt, die für Adobe Flash Player-Updates und andere Software werben. Wie die Verkaufsstelle herausfand, macht das Klicken auf eine dieser Warnungen die Sache noch viel schlimmer, da die Site gefälschte Virenwarnungen anzeigt, die angeblich von McAfee stammen.

Mark Stockley, ein Cybersicherheitsexperte bei Malwarebytes, erklärte der Verkaufsstelle, dass Benutzer dazu verleitet werden könnten, ein „potenziell unerwünschtes Programm (PUP)“ herunterzuladen, also eine Art von Software, die sie wahrscheinlich nicht haben möchten, die lästig sein könnte oder schwer zu entfernen ist. Er sagte, dass „das PUP möglicherweise das ist, was sie eigentlich herunterladen wollten, ein anderer Download als der, den sie erwartet haben, oder weitere unerwünschte Downloads neben dem, den sie erwartet haben.“

„In den letzten 18 Monaten haben wir einen enormen Anstieg bösartiger Werbung (Malvertising) als Vektor für die Verbreitung von Malware erlebt“, sagte er Futurismus„Kriminelle schalten Anzeigen in legitimen Werbenetzwerken, um Leute auf gefälschte Websites zu locken und sie dazu zu verleiten, Malware herunterzuladen, weil sie denken, es handele sich um ein legitimes Programm.“

„Malvertising imitiert bekannte Marken und ist äußerst schwer zu erkennen“, so Stockley weiter. „Und die Kriminellen, die es betreiben, können die ausgeklügelten Targeting-Kontrollen der Werbenetzwerke missbrauchen, um sicherzustellen, dass die Leute gefälschte Anzeigen für Dinge sehen, die sie wahrscheinlich haben möchten.“

McAfee kritisierte ChatGPT dafür, dass das Unternehmen seine Benutzer auf eine derart gefährliche Site weiterleitet.

„Betrüger sind frühe Anwender trendiger Technologien. ChatGPT und ähnliche Technologien verzeichnen ein massives Wachstum und bieten Betrügern Möglichkeiten, Profit zu machen“, sagte ein Sprecher. Futurismus„Erste Indikatoren scheinen darauf hinzudeuten, dass die Benutzer den Ergebnissen dieser Systeme vertrauen … Ohne weitere Aufklärung können Benutzer anfällig für Fehlinformationen, einschließlich Betrug, werden, die ihren Weg in diese Systeme finden.“

Das Problem betrifft die neuesten KI-Systeme und zeigt, warum so viele Benutzer KI-Modellen immer noch nicht vertrauen. In diesem konkreten Fall werden die Vertrauensprobleme noch dadurch verschärft, dass ChatGPT offenbar mehrere glaubwürdige Websites ignoriert und Benutzer stattdessen zu County Local News schickt.