Von Divyanshi Sharma: Mehrere Tech-Experten haben uns in den letzten Monaten vor der Tendenz von KI-Chatbots zur Halluzination gewarnt. Prabhakar Raghavan, Senior Vice President bei google und Leiter der Google-Suche, sagte im Gespräch mit einer deutschen Publikation, dass KI manchmal „halluzinieren“ und „überzeugende, aber völlig erfundene Antworten“ liefern kann. Er hatte außerdem hinzugefügt, dass es eine der wichtigsten Aufgaben sei, dies auf ein Minimum zu beschränken.
Andererseits sagte Sam Altman, CEO von OpenAI, kürzlich bei einer Veranstaltung in Neu-Delhi, dass er „den Antworten von chatgpt nicht vertraut“.
Und jetzt verklagt ein Radiomoderator OpenAI wegen Verleumdung, nachdem ChatGPT angeblich ein gefälschtes Rechtsdokument erstellt hat, in dem er ihm Betrug und Geldveruntreuung vorwirft.
Radiomoderator verklagt OpenAI von ChatGPT
In einem Bericht von Business Insider heißt es, dass Mark Walters laut einer bei einem Gericht in Georgia eingereichten Klage argumentierte, ChatGPT habe seinen Namen in einen Fall hineingezogen, an dem der Journalist Fred Riehl arbeitete, und ihn (Walters) des „Betrugs und der Veruntreuung von Geldern“ beschuldigt.
Walters behauptete weiter, Riehl habe ChatGPT um eine Zusammenfassung eines Washingtoner Falles gebeten und einen Link des Falles zum KI-Chatbot angegeben.
Als Antwort auf die Anfrage zog ChatGPT den Namen von Walters in den Fall und sagte, dass ihm „Betrug und Unterschlagung von Geldern der SAF vorgeworfen“ werde. Der Fall war ursprünglich zwischen Generalstaatsanwalt Bob Ferguson und der Second Amendment Foundation (SAF) verhandelt.
Darüber hinaus sagte ChatGPT, dass Walters der „Schatzmeister und CFO“ der Organisation sei und fügte hinzu, dass ihm die Veruntreuung von Geldern für persönliche Ausgaben und die Manipulation von Finanzunterlagen vorgeworfen worden sei.
Im Business Insider-Bericht heißt es weiter, dass der KI-Chatbot, als der Journalist versuchte, von ChatGPT weitere Details zu dem Fall zu erfahren, eine völlig „falsche Beschwerde“ vorlegte, wie aus den Gerichtsdokumenten hervorgeht. Die Beschwerde (die von ChatGPT eingereicht wurde) wurde vom Gericht in Georgia als „vollständige Fälschung“ bezeichnet, die „keine Ähnlichkeit mit der tatsächlichen Beschwerde aufweist, einschließlich einer falschen Fallnummer“.
Als ChatGPT einen Anwalt in rechtliche Schwierigkeiten brachte
Dies ist nicht das erste Mal, dass ChatGPT eine erfundene Antwort liefert, wenn es um die Zusammenfassung eines Rechtsfalls gebeten wird.
Letzten Monat hatte ein BBC-Bericht enthüllt, dass einem in New York ansässigen Anwalt eine Gerichtsverhandlung bevorsteht, nachdem ein Kollege seiner Kanzlei ChatGPT für Rechtsrecherchen genutzt hatte. Das Gericht stellte fest, dass mehrere Rechtsfälle, auf die sich der Anwalt und seine Kanzlei in einem laufenden Verfahren bezogen, nie existierten. Der Richter hatte den Vorfall als „beispiellosen Umstand“ bezeichnet.
— ENDE —
