Ein New Yorker Anwalt sagte einem Richter, dass er niemals jemanden täuschen wollte, als er einen Gerichtsschriftsatz voller gefälschter, von chatgpt erfundener Präzedenzfälle einreichte.

Steven Schwartz, dem für den Schriftsatz eine Strafe droht, bat am Donnerstag den US-Bezirksrichter P. Kevin Castel um Nachsicht. Der Anwalt behauptet, er habe keine Ahnung gehabt, dass das kostenlose Tool der künstlichen Intelligenz gefälschte Fallzitate und Gerichtsgutachten erstellen könne.

„Es gab viele Dinge, die ich hätte tun sollen, um die Richtigkeit dieser Fälle sicherzustellen“, sagte Schwartz dem Richter. „Da bin ich kläglich gescheitert.“

Generative künstliche Intelligenz-Tools wie ChatGPT versprechen, die Berufe der Angestellten auf den Kopf zu stellen und die Art und Weise zu verändern, wie Anwaltskanzleien, Finanzinstitute und andere Geschäfte abwickeln. Die Technologie birgt auch Risiken, einschließlich einer übermäßigen Abhängigkeit davon.

ChatGPT, ein von der gemeinnützigen Organisation OpenAI gestarteter Chatbot, kann menschenähnliche Gespräche führen und riesige Datenbestände aus dem Internet abrufen – obwohl er zugibt, dass er anfällig für Halluzinationen ist und ungenaue Informationen liefern kann.

Schwartz gab diese Woche zu, dass ChatGPT sechs Fälle erfunden hatte, die er in einem kurzen Fall gegen Avianca Airlines anführte.

„Ich hätte mir einfach nie vorstellen können, dass ChatGPT erfundene Fälle produzieren würde“, sagte Schwartz dem Richter am Bundesgericht in Manhattan.

Kernpunkt des Falles

Schwartz‘ Mandant behauptete, ein Avianca-Mitarbeiter habe ihn auf einem Flug von El Salvador nach New York im Jahr 2019 mit einem metallenen Servierwagen ins linke Knie geschlagen, was ihm „schwere Körperverletzungen“ zugefügt habe.

Die Fluggesellschaft wollte die Klage mit der Begründung abweisen, sie sei zu spät eingereicht worden. Bei der Untersuchung der Verjährungsfrage gab Schwartz zu, dass er ChatGPT verwendet hatte.

Nachdem die Anwälte von Avianca Papiere eingereicht hatten, in denen sie sagten, sie könnten die Fälle nicht finden, verließ sich Schwartz weiterhin auf das KI-Tool.

Nachdem sie von den betrügerischen Vorladungen erfahren hatten, teilte Castel den Anwälten mit, dass der Fall von den Handlungen von Schwartz und einem Kollegen seiner Kanzlei, Peter LoDuca, abhängt.

„Ich bezweifle, dass wir heute hier wären, wenn die Erzählung dort geendet hätte“, sagte er.

„Rechtliches Kauderwelsch“

Castel führte Schwartz durch seinen fehlerhaften Auftrag und fragte ihn, ob er daran gedacht habe, die Fälle in juristischen Forschungsdatenbanken, in Büchern in einer juristischen Bibliothek oder sogar bei google zu überprüfen. Schwartz‘ Antwort war jedes Mal „Nein“.

Der Richter fragte Schwartz, ob er gegenüber einem der wichtigsten in der Schriftsatz angeführten falschen Fälle, dem nicht existierenden Fall „Varghese gegen China South Airlines Co.“, verdächtig sei, der nach Aussage des Richters Informationen enthielt, die keinen Sinn ergaben.

„Können wir uns darauf einigen, dass das juristisches Kauderwelsch ist?“ fragte Castel.

Schwartz sagte, er könne sich nicht vorstellen, dass ChatGPT einen Fall aus allen Nähten platzen lassen würde, und dass er eine solche Möglichkeit erst in Betracht gezogen habe, als Castel am 4. Mai angeordnet hatte, den Fall darzulegen.

„Ich wurde weiterhin von ChatGPT getäuscht“, sagte Schwartz. „Es ist peinlich.“

„Unglaublich kraftvoll“

Nachdem die Probleme mit Schwartz‘ Schriftsatz festgestellt worden waren, erließen Bundesrichter in Illinois und Texas Daueranordnungen, die Anwälte dazu aufforderten, zu bestätigen, dass ihre Akten ohne generative KI erstellt wurden oder dass ein Mensch die Richtigkeit einer von KI erstellten Sprache überprüfte.

„Diese Plattformen sind unglaublich leistungsstark und haben viele rechtliche Einsatzmöglichkeiten“, schrieb Richter Brantley Starr vom Northern District of Texas in seinem Beschluss. „Aber juristisches Briefing gehört nicht dazu.“

Im Avianca-Fall ordnete Castel die Anhörung zu den Sanktionen für Schwartz, seinen Kollegen LoDuca, der den Schriftsatz unterzeichnete und beim Gericht einreichte, und ihre Kanzlei, die vierköpfige Manhattan-Kanzlei für Personenschäden Levidow, Levidow & Oberman, an.

In seiner Anordnung, einen Grund darzulegen, erwähnte Castel auch die Möglichkeit, Schwartz an einen Beschwerdeausschuss des Staatsanwalts zu verweisen, der berufliches Verhalten untersuchen kann.

Schwartz‘ Anwaltsteam bittet Castel, ihn nicht mit Sanktionen zu belegen, und stellt fest, dass der Ruf von Schwartz und seiner Kanzlei durch den Vorfall bereits geschädigt wurde.

Schwartz‘ Verteidiger Ronald Minkoff sagte, die öffentliche Blamage, der sie ausgesetzt waren, sei abschreckend genug.

Der Fall sei „Schadenfreude für jeden Anwalt“, sagte Minkoff, „weil Anwälte in der Vergangenheit Schwierigkeiten mit neuen Technologien hatten.“

Castel vertagte die Anhörung, ohne zu sagen, wann er über mögliche Sanktionen entscheiden werde.