Kann der ikonische KI-Chatbot von OpenAI beim Verfassen von Gesetzen effektiv auf die Bedürfnisse der menschlichen Gesellschaft eingehen? Oder hat die Technologie noch einen Weg vor sich?

Die Fähigkeiten der künstlichen Intelligenz (KI) werden branchenübergreifend getestet, wobei die Technologie bei der Analyse, Fertigung und sogar bei kreativen Wegen hilft.

Kann KI jedoch in unserem Rechtssystem den Ermessensspielraum reproduzieren, der zur Bestimmung der besten Interessen der menschlichen Gesellschaft erforderlich ist? Kann KI Gesetze schreiben?

Ein Wissenschaftler der Charles Darwin University (CDU) hat Untersuchungen durchgeführt, um genau das herauszufinden. Associate Professor Guzyal Hill stellte den beliebtesten KI-Chatbot aller, chatgpt von OpenAI, auf die Probe und bat ihn, Gesetze gegen häusliche Gewalt zu verfassen.

Wie die CDU in ihrer Pressemitteilung betont, ist häusliche Gewalt ein sehr menschliches Problem, das Leben und Familien zerstört und jedes Jahr Dutzende Australier tötet.

„Häusliche Gewalt stellt ein komplexes menschliches Problem dar, allein in Australien sterben jedes Jahr bis zu 50 Frauen“, sagte Hill.

„Die Regierungen von Bund, Ländern und Territorien haben den gemeinsamen nationalen Plan zur Beendigung der Gewalt gegen Frauen und Kinder innerhalb einer Generation vorgelegt. Kann ChatGPT dabei helfen, eine qualitativ hochwertige Definition häuslicher Gewalt zu erstellen?

„Nachdem wir mehrere Tests durchgeführt und mit der Definition des Australian Law Council verglichen haben, lautet die Antwort ‚noch nicht‘ – menschliches Verfassen ist immer noch überlegen.“ ChatGPT war jedoch sehr nützlich bei der Klassifizierung und Identifizierung zugrunde liegender Muster von Formen häuslicher Gewalt.“

Hill fügte hinzu, dass ChatGPT zwar einige Anzeichen einer erfolgreichen Analyse des Problems gezeigt habe, KI-Tools wie dieses und andere jedoch nicht bei der Suche nach Rechtsberatung eingesetzt werden sollten, insbesondere da diese Bots ihre Beratung aufgrund der Datensätze häufig auf US-Recht stützen sie sind aufgebaut.

„So verlockend es auch ist, ChatGPT sollte nicht für Rechtsberatung verwendet werden. Der Chatbot basiert auf der Wahrscheinlichkeitsvorhersage von Texten. Der Großteil der Texte, für die ChatGPT geschult wurde, stammt nicht aus Australien“, sagte Hill.

„Das australische Rechtssystem ist anders als das der USA. Es gibt auch wichtige Unterschiede zwischen den Gerichtsbarkeiten; Beispielsweise gibt es im Northern Territory und in New South Wales große Unterschiede im Strafrecht.“

„Es ist in allen australischen Gerichtsbarkeiten rechtswidrig, Rechtsberatung ohne eine Zulassung als Rechtsanwalt anzubieten. In New South Wales beispielsweise beträgt die Höchststrafe für die Ausübung einer unqualifizierten Rechtspraxis eine Geldstrafe von 250 Strafeinheiten [$27,500] oder Freiheitsstrafe von zwei Jahren oder beidem gemäß Abschnitt 10 des Einheitliches Rechtsanwaltsberufsrecht 2014 (NSW).“

„Die Hauptgefahren bei der Nutzung von ChatGPT für Rechtsberatung bestehen darin, dass persönliche Informationen weitergegeben werden, dass auf Halluzinationen reagiert wird oder einfach falsche Ratschläge gegeben werden.“

Wie Hill betonte, liegt ChatGPT nun eine Offenlegung vor, die besagt, dass es keine Rechtsberatung leisten kann.

Auch wenn KI noch nicht so weit ist, dass sie Gesetze verfassen und die Bedürfnisse und Nuancen des Rechtssystems richtig verstehen kann, sollten Juristen und Studenten lernen, KI-Tools zu nutzen und zu verstehen, um auch die Risiken, die die Technologie mit sich bringt, zu mindern um die weitere Erforschung der Rolle der KI im Rechtssystem anzuregen.

„Für Anwälte und Jurastudenten ist KI ein Bereich, in dem wir uns weiterentwickeln müssen“, sagte Hill.

„Das Umgehen oder Ignorieren von KI hat viele unvorhersehbare Nachteile und zumindest mehrere vorhersehbare Gefahren, wie zum Beispiel das Begehen schwerwiegender Fehler beim Missbrauch von KI; eine Gelegenheit verpasst, die Debatte über die Entwicklung des Rechts mit dem Aufkommen der KI anzuführen; und es Experten aus anderen Bereichen zu ermöglichen, Lösungen zu entwickeln, die grundlegende Menschenrechte nicht berücksichtigen oder den Grundprinzipien der Rechtsstaatlichkeit widersprechen.

„Ohne Zweifel birgt KI ernsthafte Risiken und Bedrohungen, wenn sie unkontrolliert eingesetzt wird. Anwälte und Jurastudenten sollten mit KI praxisnah, vorsichtig und dennoch neugierig umgehen.

„An diesem Punkt sind KI-Systeme eher eine Erweiterung der menschlichen Scharfsinnigkeit als eine Aufhebung der rechtlichen Analyse und Argumentation. Wir als Anwälte haben die Möglichkeit, in diesem neuen KI-Bereich Fuß zu fassen, der das Potenzial hat, das Recht und die Art und Weise, wie wir das Recht weltweit angehen, zu verändern.“