Letzte Woche äußerte David Mossop, Richter am Obersten Gerichtshof von ACT, während einer Anhörung zur Urteilsverkündung Bedenken hinsichtlich einer Personenreferenz, die vermutlich von chatgpt generiert wurde, und wies auf mögliche Probleme mit deren Zuverlässigkeit und der Bedeutung echter Referenzen hin.

In dem Fall ging es um Majad Khan, der zusammen mit zwei Mittätern ein Treffen mit einem Facebook-Marktplatzverkäufer vereinbarte, um eine große Menge E-Zigaretten für 63.600 US-Dollar zu kaufen.

Während des Austauschs luden die Täter die E-Zigaretten in einen SUV, den Khan wegfuhr. Sein Mittäter überreichte dem Verkäufer daraufhin Umschläge, die mit Papierstücken gefüllt waren, die wie Geld aussehen sollten. Doch als der Verkäufer das Falschgeld bemerkte, kontaktierte er die ACT-Polizei.

Khan wurde von einer Videoüberwachung gefilmt, als er mit dem SUV auf den Parkplatz des Gebäudes fuhr, in dem ein Mittäter wohnte. Zwei Tage später führten Polizisten einen Durchsuchungsbefehl auf dem Grundstück durch und fanden Umschläge mit gefälschtem Papiergeld.

Khan bekannte sich der Erlangung von Eigentum durch Täuschung schuldig, eine Straftat, die mit einer Höchststrafe von bis zu 160.000 US-Dollar Geldstrafe und/oder einer Freiheitsstrafe von 10 Jahren geahndet wird.

In seiner Anhörung zur Urteilsverkündung reichte Khan mehrere Charakterreferenzen ein, Richter Mossop bezeichnete jedoch eine, die angeblich von seinem Bruder verfasst worden war, als eigenartig.

„Ich kenne Majad seit langer Zeit sowohl persönlich als auch beruflich und bin mit seinem unerschütterlichen Engagement für seinen Glauben und seine Gemeinschaft bestens vertraut“, heißt es in der Referenz.

„Majads Engagement für Sauberkeit und Ordnung ist ein weiterer herausragender Aspekt seines Charakters. Er geht sorgfältig mit seiner Umgebung um und drückt eine starke Abneigung gegen Unordnung aus.

In der Referenz wurde weiterhin gelobt: „Seine proaktive Haltung gegenüber der Reinigung, sowohl im Haus als auch in der Gemeinschaft, spiegelt Verantwortungsbewusstsein und Respekt für die Umwelt wider.“ Sein Einsatz erstreckt sich auch darauf, die Straßen und Einfahrten sauber zu halten, ein Beweis für sein Engagement für eine gut gepflegte und geordnete Gemeinschaft.“

Mossop wies in seinem Urteil darauf hin, dass zu erwarten sei, dass eine von seinem Bruder verfasste Referenz diese Beziehung erwähnen würde, anstatt ihn „persönlich und beruflich über einen längeren Zeitraum gekannt“ zu haben.

„Es ist durchaus möglich, dass bei der Übersetzung etwas verloren gegangen ist.“

„Vielleicht legt er großen Wert auf Sauberkeit. Das unspezifische, sich wiederholende Lob in dem Absatz, der seine proaktive Haltung gegenüber dem Putzen und seine starke Abneigung gegen Unordnung so stark hervorhebt, deutet jedoch stark auf die Beteiligung eines großen Sprachmodells hin.“

Khans Verteidiger argumentierte, dass die Referenz mithilfe einer Computerübersetzung und nicht mithilfe eines großen Sprachmodells erstellt worden sei.

Mossop erklärte jedoch, dass es unangemessen sei, Referenzen mithilfe großer Sprachmodelle zu generieren, da dies „Es wird für das Gericht schwierig herauszufinden, welches Gewicht den darin dargelegten Tatsachen und Meinungen gegebenenfalls beigemessen werden kann.“

Er bezeichnete den Einsatz von Computerübersetzungen auch als unerwünscht, da die Feinheiten der Sprache „in der automatisierten Übersetzung nicht unbedingt genau wiedergegeben werden“.

Daraus kam Mossop zu dem Schluss„Die Verwendung der Sprache innerhalb des Dokuments steht im Einklang mit einem durch künstliche Intelligenz generierten Dokument“ und überreichte Khan eine Bewährungsstrafe von 21 Monaten und 15 Tagen Haft und eine Geldstrafe von 6.000 US-Dollar.