Der Bot wurde mit der Konversationssoftware ChatGPT von OpenAI betrieben, die das Unternehmen externen Entwicklern zur Verfügung gestellt hat.
Das Super-PAC mit dem Namen „We Deserve Better“ hatte mit dem KI-Start-up Delphi einen Vertrag mit der Entwicklung des Bots abgeschlossen. OpenAI hat Delphis Konto am späten Freitag als Reaktion auf einen Artikel der Washington Post über SuperPAC gesperrt und darauf hingewiesen, dass die Regeln von OpenAI den Einsatz seiner Technologie in politischen Kampagnen verbieten. Delphi hat Dean.Bot ausgeschaltetnach der Kontosperrung.
„Jeder, der mit unseren Tools baut, muss unsere Nutzungsrichtlinien befolgen“, sagte OpenAI-Sprecherin Lindsey Held in einer Erklärung. „Wir haben kürzlich ein Entwicklerkonto entfernt, das wissentlich gegen unsere API-Nutzungsrichtlinien verstieß, die politische Kampagnen oder die Nachahmung einer Person ohne Zustimmung nicht zulassen.“
Dean.Bot, der über eine Website in Echtzeit mit Wählern kommunizieren konnte, war ein früher Einsatz einer neuen Technologie, von der Forscher sagen, dass sie den Wahlen erheblichen Schaden zufügen könnte.
Der Bot enthielt einen Haftungsausschluss, der erklärte, dass es sich um ein KI-Tool und nicht um den echten Dean Phillips handelte, und verlangte, dass die Wähler seiner Verwendung zustimmen. Aber Forscher sagten gegenüber The Post, dass solche Technologien Menschen dazu verleiten könnten, ein gefährliches Werkzeug zu akzeptieren, selbst wenn es Haftungsausschlüsse gibt.
Befürworter, darunter We Deserve Better, argumentieren, dass die Bots, wenn sie richtig eingesetzt werden, Wähler aufklären können, indem sie ihnen eine unterhaltsame Möglichkeit bieten, mehr über einen Kandidaten zu erfahren.
Ohne jeglichen Haftungsausschluss haben Experten gesagt:Die Technologien könnten Massen-Robocalls an Wähler ermöglichen, die glauben, mit tatsächlichen Kandidaten oder Unterstützern zu sprechen. KI-Systeme können auch in großem Umfang Desinformation in Anzeigen oder Inhalten wie gefälschten Websites erzeugen.
Nachdem The Post am Donnerstag We Deserve Better zu den Verboten von OpenAI befragt hatte, sagte Krisiloff, er habe Delphi gebeten, ChatGPT aus dem Bot zu entfernen und sich stattdessen auf Open-Source-Technologien zu verlassen, die auch Konversationsfunktionen bieten, die in das Design des Bots eingeflossen seien.
Der Bot blieb für die Öffentlichkeit ohne ChatGPT verfügbar, bis Delphi ihn am späten Freitag als Reaktion auf die Sperrung abschaltete, sagte Krisiloff.
Krisiloff äußerte sich nicht weiter. Delphi reagierte nicht sofort auf eine Bitte um Stellungnahme.
Krisiloff ist ein ehemaliger Stabschef von OpenAI-CEO Sam Altman. Altman habe sich mit Phillips getroffen, sei aber nicht am Super-PAC beteiligt, sagte Krisiloff.
