Jeden Tag ersticken Nachrichten von nigerianischen Prinzen, Hausierern von Wunderdrogen und Förderern von unumgänglichen Investitionen die E-Mail-Posteingänge. Verbesserungen an Spam-Filtern scheinen nur zu neuen Techniken zu inspirieren, um den Schutz zu durchbrechen.

Jetzt droht das Wettrüsten zwischen Spam-Blockern und Spam-Versendern mit dem Aufkommen einer neuen Waffe zu eskalieren: der generativen künstlichen Intelligenz. Mit den jüngsten Fortschritten in der KI bekannt geworden durch ChatGPTkönnten Spammer neue Tools haben, um Filter zu umgehen, die Aufmerksamkeit der Leute zu erregen und sie davon zu überzeugen, persönliche Informationen anzuklicken, zu kaufen oder preiszugeben.

Als Direktor des Advancing Human and Machine Reasoning Lab an der University of South Florida, Ich recherchiere die Schnittmenge von künstlicher Intelligenz, Verarbeitung natürlicher Sprache und menschlichem Denken. Ich habe untersucht, wie KI die individuellen Vorlieben, Überzeugungen und Persönlichkeitsmerkmale von Menschen lernen kann.

JETZT IM SONDERANGEBOT

Zwei unserer Lieblings-VPNs

Schützen Sie Ihre privaten Daten Wir teilen und greifen jeden Tag auf eine Menge privater Daten zu, was zu großen Problemen führen kann, wenn diese Informationen in die falschen Hände geraten.

Dies kann verwendet werden, um den Umgang mit Menschen besser zu verstehen, ihnen beim Lernen zu helfen oder ihnen hilfreiche Vorschläge zu machen. Das bedeutet aber auch, dass Sie sich auf intelligenten Spam einstellen sollten, der Ihre Schwachstellen kennt – und sie gegen Sie verwenden kann.

Spam, KI, Spam, KI, Spam, KI

Also, was ist Spam?

Spam ist definiert als unerwünschte Werbe-E-Mails von einer unbekannten Entität gesendet. Der Begriff wird manchmal auf Textnachrichten, Direktnachrichten in sozialen Medien und erweitert gefälschte Produktbewertungen. Spammer möchten Sie zum Handeln anregen: etwas kaufen, auf Phishing-Links klicken, Malware installieren oder Ansichten ändern.

Spam ist profitabel. Eine E-Mail-Explosion kann 1.000 US-Dollar einbringen in nur wenigen Stunden, die Spammer nur ein paar Dollar kostet – Ersteinrichtung ausgenommen. Eine pharmazeutische Online-Spam-Kampagne könnte generiert werden rund 7.000 $ pro Tag.

Legitime Werbetreibende möchten Sie auch zum Handeln anregen – ihre Produkte kaufen, an ihren Umfragen teilnehmen, sich für Newsletter anmelden – aber eine E-Mail eines Vermarkters kann auf eine etablierte Unternehmenswebsite verlinken und eine entsprechende Option zum Abbestellen enthalten bundesrechtliche Vorschrifteneine Spam-E-Mail möglicherweise nicht.

Spammer haben auch keinen Zugriff auf Mailinglisten, für die sich Benutzer angemeldet haben. Stattdessen verwenden Spammer kontraintuitive Strategien wie z Betrug mit dem „nigerianischen Prinzen“., in der ein nigerianischer Prinz behauptet, Ihre Hilfe zu brauchen, um einen absurden Geldbetrag freizuschalten, und verspricht, Sie gut zu belohnen. Versierte Digital Natives weisen solche Bitten sofort zurück, aber die Absurdität der Anfrage kann tatsächlich für Naivität oder fortgeschrittenes Alter wählenFiltern nach denjenigen, die am wahrscheinlichsten auf die Betrügereien hereinfallen.

Fortschritte in der KI bedeuten jedoch, dass sich Spammer möglicherweise nicht mehr auf solche Hit-or-Miss-Ansätze verlassen müssen. KI könnte es ihnen ermöglichen, Einzelpersonen anzusprechen und ihre Botschaften überzeugender zu gestalten, basierend auf leicht zugänglichen Informationen, wie z. B. Social-Media-Beiträgen.

Das KI-fähige fZukunft von Spam

Wahrscheinlich haben Sie schon von den Fortschritten bei generativen großen Sprachmodellen gehört, wie z ChatGPT. Die Aufgabe, die diese generativen LLMs erfüllen, ist täuschend einfach: Sagen Sie bei einer gegebenen Textsequenz voraus, welches Token – stellen Sie sich dies als Teil eines Wortes vor – als nächstes kommt. Sagen Sie dann voraus, welches Token danach kommt. Und so weiter, immer und immer wieder.

Irgendwie scheint das Training allein für diese Aufgabe, wenn es mit genügend Text auf einem ausreichend großen LLM durchgeführt wird, auszureichen, um diesen Modellen die Fähigkeit zu verleihen, überraschend gute Leistungen zu erbringen viele andere Aufgaben.

Es sind bereits mehrere Möglichkeiten zur Nutzung der Technologie entstanden, die die Fähigkeit der Technologie zeigen, sich schnell an Einzelpersonen anzupassen und etwas über sie zu lernen. Zum Beispiel können LLMs vollständige E-Mails in Ihrem Schreibstil schreiben, wenn nur ein paar Beispiele dafür gegeben werden, wie Sie schreiben. Und da ist das klassische Beispiel – jetzt über ein Jahrzehnt alt – von Target herauszufinden, dass eine Kundin schwanger war, bevor ihr Vater es wusste.

Spammer u Vermarkter gleichermaßen würde davon profitieren, mit weniger Daten mehr über Personen vorhersagen zu können. Angesichts Ihrer LinkedIn-Seite, einiger Posts und eines oder zweier Profilbilder könnten LLM-bewaffnete Spammer ziemlich genaue Vermutungen über Ihre politischen Neigungen, Ihren Familienstand oder Ihre Lebensprioritäten anstellen.

Unsere Forschung hat gezeigt, dass LLMs verwendet werden können, um vorherzusagen, welches Wort eine Person als nächstes mit einem gewissen Grad an Genauigkeit sagen wird weit über andere KI-Ansätze hinausin einer Wortgenerierungsaufgabe namens the semantische Sprachaufgabe. Wir haben auch gezeigt, dass LLMs bestimmte Arten von Fragen aus Tests zum logischen Denken übernehmen können vorherzusagen, wie die Leute auf diese Frage reagieren werden. Dies deutet darauf hin, dass LLMs bereits einige Kenntnisse darüber haben, wie die typische menschliche Denkfähigkeit aussieht.

Wenn Spammer die anfänglichen Filter überwinden und Sie dazu bringen, eine E-Mail zu lesen, auf einen Link zu klicken oder sich sogar an einer Unterhaltung zu beteiligen, Ihre Fähigkeit, maßgeschneiderte Überzeugungsarbeit zu leisten, nimmt dramatisch zu. Auch hier können LLMs das Spiel verändern. Erste Ergebnisse deuten darauf hin, dass LLMs verwendet werden können, um überzeugend zu Themen zu argumentieren, die von reichen Politik Zu öffentliche Gesundheitspolitik.

Gut für den Gänserich

KI bevorzugt jedoch weder die eine noch die andere Seite. Auch Spam-Filter sollten von Fortschritten in der KI profitieren, die es ihnen ermöglichen, neue Barrieren für unerwünschte E-Mails zu errichten.

Spammer versuchen oft, Filter auszutricksen Sonderzeichen, falsch geschriebene Wörter oder versteckter Text, wobei man sich auf die menschliche Neigung verlässt, kleine Textanomalien zu verzeihen – zum Beispiel „c1îck h.ere n0w“. Aber je besser KI Spam-Nachrichten versteht, desto besser können Filter unerwünschten Spam identifizieren und blockieren – und vielleicht sogar erwünschten Spam durchlassen, wie z. B. Marketing-E-Mails, für die Sie sich explizit angemeldet haben. Stellen Sie sich einen Filter vor, der vorhersagt, ob Sie eine E-Mail lesen möchten, bevor Sie sie überhaupt lesen.

Trotz wachsender Besorgnis über KI – wie Tesla-, SpaceX- und Twitter-CEO Elon Musk, Apple-Gründer Steve Wozniak und andere Technologieführer beweisen fordert eine Pause in der KI-Entwicklung – Fortschritte in der Technologie könnten viel Gutes bringen. KI kann uns helfen zu verstehen wie Schwächen im menschlichen Denken von schlechten Akteuren ausgenutzt werden könnten und Wege finden, um böswilligen Aktivitäten entgegenzuwirken.

Alle neuen Technologien können Wunder und Gefahren mit sich bringen. Der Unterschied liegt darin, wer die Tools erstellt und kontrolliert und wie sie verwendet werden.

Möchten Sie mehr über KI, Chatbots und die Zukunft des maschinellen Lernens erfahren? Schauen Sie sich unsere vollständige Berichterstattung über an künstliche Intelligenzoder stöbern Sie in unseren Leitfäden zu Die besten kostenlosen KI-Kunstgeneratoren Und Alles, was wir über ChatGPT von OpenAI wissen.

John LicatoAssistenzprofessor für Informatik und Direktor des AMHR Lab, Universität von Südflorida

Dieser Artikel wird neu veröffentlicht von Die Unterhaltung unter einer Creative-Commons-Lizenz. Lies das originaler Artikel.