• Zachariah Crabill, ein unerfahrener Anwalt, behauptet, er sei entlassen worden, nachdem er ChatGPT von OpenAI genutzt hatte, um beim Verfassen eines Antrags zu helfen.
• Der 29-Jährige sagte, die von der KI generierten Informationen seien voller gefälschter Klagen.
• Dennoch glaubt Crabill, dass KI die Macht hat, Anwälte produktiver zu machen.

Denken Sie darüber nach, ChatGPT von OpenAI bei der Arbeit zu verwenden? Seien Sie vorsichtig mit falschen Informationen – sonst riskieren Sie, gefeuert zu werden.

Diesen Sommer wurde Zachariah Crabill, ein 29-jähriger Anwalt, der zuvor bei der Baker Law Group arbeitete, entlassen, nachdem er ChatGPT bei der Arbeit genutzt hatte, bestätigte er gegenüber Insider.

Crabill sagte, er fühle sich über die zunehmenden Fristen und die interne Dynamik am Arbeitsplatz gestresst, als seine Vorgesetzten in der in Colorado ansässigen Anwaltskanzlei ihm im Mai noch mehr Arbeit aufbürdeten.

Um das alles durchzustehen, wandte er sich an ChatGPT, das er zuvor verwendet hatte und dem er als genaues Recherchetool vertraute. Er bat den Chatbot, einen von ihm verfassten Antrag mit Details aus der Rechtsprechung Colorados zu untermauern.

„Als ChatGPT mir Stunden Arbeit ersparte, war das ein winziger Sonnenstrahl in einer ansonsten miserablen Situation“, sagte Crabill in einer E-Mail an Insider. „Meine Erfahrung ist nicht einzigartig. Leider habe ich viele Anwälte sagen hören, dass auch sie zu Beginn ihrer Karriere ‚den Wölfen zum Opfer gefallen‘ wurden.“

Nachdem der Antrag abgeschlossen war, legte der Anwalt ihn seinem Chef zur Prüfung vor und reichte ihn schließlich beim Gericht in Colorado ein – er verpasste jedoch den entscheidenden Schritt, die Arbeit des KI-Chatbots zu überprüfen.

Seine Aufregung verwandelte sich schnell in Entsetzen, als ihm klar wurde, dass ChatGPT in dem Antrag mehrere gefälschte Klagezitate erstellt hatte.

„Ich denke, alle meine bei chatGPT zitierten Fälle sind Müll … Ich kann die Fälle nicht einmal in Lexis finden …“, sagte Crabill zu dem Antrag, wie aus Screenshots seiner Textnachrichten hervorgeht, die von überprüft wurden Rechtswoche Colorado.

Die Fehler können wahrscheinlich auf Halluzinationen zurückgeführt werden, wenn ChatGPT scheinbar überzeugende Antworten generiert, die in Wirklichkeit nicht auf Tatsachen beruhen.

Er teilte dem Richter mit, dass er den KI-Chatbot verwendet habe, um das Dokument zu stärken. Der Richter zeigte ihn später bei einem landesweiten Büro an.

Bald darauf wurde er gefeuert, Die Washington Post zuerst berichtet. Crabill behauptete gegenüber Insider, dass die Verwendung von ChatGPT nicht der Grund für seine Entlassung war, antwortete jedoch nicht, als er um weitere Erläuterungen gebeten wurde.

Obwohl er seinen Job verloren hat, glaubt Crabill immer noch daran, dass KI die Macht hat, Anwälte produktiver zu machen. Er hat sein eigenes Unternehmen gegründet, das juristische Dienstleistungen mithilfe von KI anbietet.

„Ich verwende ChatGPT immer noch in meinem Alltag, so wie die meisten Leute google bei der Arbeit nutzen“, sagte Crabill.

Die Baker Law Group antwortete vor der Veröffentlichung nicht auf die Bitte von Insider um einen Kommentar.

Crabills ChatGPT-Snafu ist nicht das erste Mal, dass Anwälte KI zum Nachteil ihres Arbeitgebers, ihrer Mandanten oder ihrer Arbeitsplätze einsetzen. Im Juni wurde eine New Yorker Anwaltskanzlei mit einer Geldstrafe von 5.000 US-Dollar belegt, weil einer ihrer Anwälte ChatGPT nutzte, um einen Gerichtsbrief zu verfassen, der sich auf nicht existierende Fälle und Meinungen bezog.

Auch Arbeitnehmer in anderen Branchen behaupten, dass sie entlassen werden, weil sie KI am Arbeitsplatz einsetzen.

Im Juni behauptete Tina Sendin, eine Marketingfachfrau, dass sie von einem Kunden entlassen wurde, nachdem sie ein KI-Schreibtool zum Generieren von Artikeln verwendet hatte.