RIO DE JANEIRO (AP) – Stadtgesetzgeber in Brasilien haben scheinbar das erste Gesetz des Landes erlassen, das vollständig von künstlicher Intelligenz geschrieben wurde – auch wenn sie es zu diesem Zeitpunkt noch nicht wussten.

Die experimentelle Verordnung wurde im Oktober in der südlichen Stadt Porto Alegre verabschiedet und Stadtrat Ramiro Rosário gab diese Woche bekannt, dass sie von einem Chatbot verfasst wurde, was zu Einwänden führte und Fragen zur Rolle der künstlichen Intelligenz in der öffentlichen Ordnung aufwarf.

Rosário sagte gegenüber The Associated Press, dass er den Chatbot chatgpt von OpenAI gebeten habe, einen Vorschlag auszuarbeiten, um zu verhindern, dass die Stadt den Steuerzahlern den Austausch von Wasserverbrauchszählern in Rechnung stellt, wenn diese gestohlen werden. Anschließend stellte er es seinen 35 Ratskollegen vor, ohne eine einzige Änderung vorzunehmen oder sie auch nur über seinen beispiellosen Ursprung zu informieren.

„Wenn ich es vorher offengelegt hätte, wäre der Vorschlag sicherlich nicht einmal zur Abstimmung gebracht worden“, sagte Rosário der AP am Donnerstag telefonisch. Der 36-köpfige Rat stimmte ihm einstimmig zu und die Verordnung trat am 23. November in Kraft .

„Es wäre der Bevölkerung gegenüber unfair, das Risiko einzugehen, dass das Projekt nicht genehmigt wird, nur weil es von künstlicher Intelligenz geschrieben wurde“, fügte er hinzu.

Die Markteinführung von ChatGPT vor gerade einmal einem Jahr hat eine weltweite Debatte über die Auswirkungen potenziell revolutionärer KI-gestützter Chatbots ausgelöst. Während einige darin ein vielversprechendes Werkzeug sehen, hat es auch Bedenken und Besorgnis über die unbeabsichtigten oder unerwünschten Auswirkungen einer Maschine hervorgerufen, die derzeit von Menschen ausgeführte Aufgaben handhabt.

Porto Alegre ist mit 1,3 Millionen Einwohnern die zweitgrößte Stadt im Süden Brasiliens. Der Ratsvorsitzende der Stadt, Hamilton Sossmeier, erfuhr, dass Rosário ChatGPT mit der Ausarbeitung des Vorschlags beauftragt hatte, als der Stadtrat am Mittwoch in den sozialen Medien mit seiner Leistung prahlte. Sossmeier sagte zunächst gegenüber lokalen Medien, er halte es für einen „gefährlichen Präzedenzfall“.

Die großen KI-Sprachmodelle, die Chatbots wie ChatGPT antreiben, funktionieren, indem sie wiederholt versuchen, das nächste Wort in einem Satz zu erraten neigen dazu, falsche Informationen zu erfinden, ein Phänomen, das manchmal als Halluzination bezeichnet wird.

Laut einer kürzlich veröffentlichten Studie des Technologieunternehmens Vectara geben alle Chatbots manchmal falsche Informationen ein, wenn sie ein Dokument zusammenfassen. Dies reicht von etwa 3 % der Zeit beim fortschrittlichsten GPT-Modell bis zu einer Rate von etwa 27 % bei einem der google-Modelle.

In einem (n Artikel veröffentlicht Andrew Perlman, Dekan der Suffolk University Law School, schrieb Anfang des Jahres auf der Website des Center of Legal Profession der Harvard Law School, dass ChatGPT „eine noch bedeutsamere Veränderung als das Aufkommen des Internets bedeuten könnte“, warnte aber auch vor seinem Potenzial Mängel.

„Es ist möglicherweise nicht immer in der Lage, die Nuancen und Komplexitäten des Gesetzes zu berücksichtigen. Da es sich bei ChatGPT um ein maschinelles Lernsystem handelt, verfügt es möglicherweise nicht über das gleiche Maß an Verständnis und Urteilsvermögen wie ein menschlicher Anwalt, wenn es um die Auslegung von Rechtsgrundsätzen und Präzedenzfällen geht. Dies könnte in Situationen zu Problemen führen, in denen eine tiefergehende rechtliche Analyse erforderlich ist“, schrieb Perlman.

Rosário von Porto Alegre war nicht der erste Gesetzgeber weltweit, der die Fähigkeiten von ChatGPT testete. Andere haben dies in begrenzterem Umfang oder mit weniger erfolgreichen Ergebnissen getan.

In Massachusetts wandte sich der demokratische Senator Barry Finegold an ChatGPT, um bei der Ausarbeitung eines Gesetzentwurfs zur Regulierung von Modellen für künstliche Intelligenz, einschließlich ChatGPT, zu helfen. Der Anfang des Jahres eingereichte Antrag muss noch abgestimmt werden.

Finegold sagte am Mittwoch telefonisch, dass ChatGPT bei einigen der mühsameren Elemente des Gesetzgebungsprozesses helfen kann, einschließlich der korrekten und schnellen Suche und Zitierung bereits in Kraft tretender Gesetze. Es sei jedoch wichtig, dass jeder weiß, dass dabei ChatGPT oder ein ähnliches Tool verwendet wurde, fügte er hinzu.

„Wir möchten, dass Arbeiten, die mit ChatGPT generiert werden, mit einem Wasserzeichen versehen werden“, sagte er und fügte hinzu, dass der Einsatz künstlicher Intelligenz zur Unterstützung der Ausarbeitung neuer Gesetze unvermeidlich sei. „Ich bin dafür, dass Leute ChatGPT nutzen, um Rechnungen zu schreiben, solange es klar ist.“

Für Rosários Vorschlag in Porto Alegre gab es keine solche Transparenz. Sossmeier sagte, Rosário habe die anderen Ratsmitglieder nicht darüber informiert, dass ChatGPT den Vorschlag verfasst habe.

Es war beabsichtigt, den Ursprung des Vorschlags geheim zu halten. Rosário sagte der AP, sein Ziel sei nicht nur die Lösung eines lokalen Problems, sondern auch die Anstoßung einer Debatte. Er sagte, er habe eine Eingabeaufforderung mit 49 Wörtern in ChatGPT eingegeben und innerhalb von Sekunden sei der vollständige Entwurf des Vorschlags einschließlich der Begründungen zurückgesendet worden.

„Ich bin davon überzeugt, dass … die Menschheit eine neue technologische Revolution erleben wird“, sagte er. „Alle Werkzeuge, die wir als Zivilisation entwickelt haben, können zum Bösen und Guten eingesetzt werden. Deshalb müssen wir zeigen, wie es zum Guten genutzt werden kann.“

Und der Ratsvorsitzende, der die Methode zunächst ablehnte, scheint bereits überzeugt zu sein.

„Ich habe es mir anders überlegt“, sagte Sossmeier. „Ich fing an, tiefer zu lesen und erkannte, dass dies unglücklicherweise oder zum Glück ein Trend sein wird.“

_____

Savarese berichtete aus Sao Paulo. Die AP-Journalisten Steve LeBlanc aus Boston und Matt O’Brien aus Providence, Rhode Island, haben zu diesem Bericht beigetragen.