Die städtischen Gesetzgeber in Brasilien haben scheinbar das erste Gesetz des Landes erlassen, das vollständig von künstlicher Intelligenz verfasst wurde – auch wenn sie es zu diesem Zeitpunkt noch nicht wussten.

Die experimentelle Verordnung wurde im Oktober in der südlichen Stadt Porto Alegre verabschiedet und Stadtrat Ramiro Rosario gab diese Woche bekannt, dass sie von einem Chatbot verfasst wurde, was zu Einwänden führte und Fragen zur Rolle der künstlichen Intelligenz in der öffentlichen Ordnung aufwarf.

Rosario sagte gegenüber The Associated Press, dass er den Chatbot chatgpt von OpenAI gebeten habe, einen Vorschlag auszuarbeiten, um zu verhindern, dass die Stadt den Steuerzahlern den Austausch von Wasserverbrauchszählern in Rechnung stellt, wenn diese gestohlen werden. Anschließend stellte er es seinen 35 Ratskollegen vor, ohne eine einzige Änderung vorzunehmen oder sie auch nur über seinen beispiellosen Ursprung zu informieren.

„Wenn ich es vorher preisgegeben hätte, wäre der Vorschlag sicherlich nicht einmal zur Abstimmung gekommen“, sagte Rosario der AP am Donnerstag telefonisch. Der 36-köpfige Rat stimmte dem einstimmig zu und die Verordnung trat am 23. November in Kraft.

„Es wäre der Bevölkerung gegenüber unfair, das Risiko einzugehen, dass das Projekt nicht genehmigt wird, nur weil es von künstlicher Intelligenz geschrieben wurde“, fügte er hinzu.

Die Markteinführung von ChatGPT vor gerade einmal einem Jahr hat eine weltweite Debatte über die Auswirkungen potenziell revolutionärer KI-gestützter Chatbots ausgelöst. Während einige darin ein vielversprechendes Werkzeug sehen, hat es auch Bedenken und Besorgnis über die unbeabsichtigten oder unerwünschten Auswirkungen einer Maschine hervorgerufen, die derzeit von Menschen ausgeführte Aufgaben handhabt.

Porto Alegre ist mit 1,3 Millionen Einwohnern die zweitgrößte Stadt im Süden Brasiliens. Der Ratspräsident der Stadt, Hamilton Sossmeier, erfuhr, dass Rosario ChatGPT mit der Ausarbeitung des Vorschlags beauftragt hatte, als der Stadtrat am Mittwoch in den sozialen Medien mit seiner Leistung prahlte. Sossmeier sagte zunächst gegenüber lokalen Medien, er halte es für einen „gefährlichen Präzedenzfall“.

Die großen KI-Sprachmodelle, die Chatbots wie ChatGPT antreiben, funktionieren, indem sie wiederholt versuchen, das nächste Wort in einem Satz zu erraten, und neigen dazu, falsche Informationen zu erfinden, ein Phänomen, das manchmal als Halluzination bezeichnet wird.

Laut einer kürzlich veröffentlichten Studie des Technologieunternehmens Vectara geben alle Chatbots manchmal falsche Informationen ein, wenn sie ein Dokument zusammenfassen. Dies reicht von etwa 3 % der Zeit beim fortschrittlichsten GPT-Modell bis zu einer Rate von etwa 27 % bei einem der google-Modelle.

In einem Artikel, der Anfang des Jahres auf der Website des Center of Legal Profession der Harvard Law School veröffentlicht wurde, schrieb Andrew Perlman, Dekan der Suffolk University Law School, dass ChatGPT „eine noch bedeutsamere Veränderung als das Aufkommen des Internets bedeuten könnte“, aber auch warnte vor möglichen Mängeln.

„Es ist möglicherweise nicht immer in der Lage, die Nuancen und Komplexitäten des Gesetzes zu berücksichtigen. Da ChatGPT ein maschinelles Lernsystem ist, verfügt es möglicherweise nicht über das gleiche Maß an Verständnis und Urteilsvermögen wie ein menschlicher Anwalt, wenn es um die Auslegung von Rechtsgrundsätzen und Präzedenzfällen geht.“ . Dies könnte in Situationen zu Problemen führen, in denen eine tiefergehende rechtliche Analyse erforderlich ist“, schrieb Perlman.

Rosario aus Porto Alegre war nicht der erste Gesetzgeber weltweit, der die Fähigkeiten von ChatGPT testete. Andere haben dies in begrenzterem Umfang oder mit weniger erfolgreichen Ergebnissen getan.

In Massachusetts wandte sich der demokratische Senator Barry Finegold an ChatGPT, um bei der Ausarbeitung eines Gesetzentwurfs zur Regulierung von Modellen für künstliche Intelligenz, einschließlich ChatGPT, zu helfen. Der Anfang des Jahres eingereichte Antrag muss noch abgestimmt werden.

Finegold sagte am Mittwoch telefonisch, dass ChatGPT bei einigen der mühsameren Elemente des Gesetzgebungsprozesses helfen kann, einschließlich der korrekten und schnellen Suche und Zitierung bereits in Kraft tretender Gesetze. Es sei jedoch wichtig, dass jeder weiß, dass dabei ChatGPT oder ein ähnliches Tool verwendet wurde, fügte er hinzu.

„Wir möchten, dass die Arbeit, die mit ChatGPT generiert wird, mit einem Wasserzeichen versehen wird“, sagte er und fügte hinzu, dass der Einsatz künstlicher Intelligenz zur Unterstützung der Ausarbeitung neuer Gesetze unvermeidlich sei. „Ich bin dafür, dass Leute ChatGPT nutzen, um Rechnungen zu schreiben, solange es klar ist.“

Für Rosarios Vorschlag gab es in Porto Alegre keine solche Transparenz. Sossmeier sagte, Rosario habe die anderen Ratsmitglieder nicht darüber informiert, dass ChatGPT den Vorschlag verfasst habe.

Es war beabsichtigt, den Ursprung des Vorschlags geheim zu halten. Rosario sagte der AP, sein Ziel sei nicht nur die Lösung eines lokalen Problems, sondern auch die Anstoßung einer Debatte. Er sagte, er habe eine Eingabeaufforderung mit 49 Wörtern in ChatGPT eingegeben und innerhalb von Sekunden sei der vollständige Entwurf des Vorschlags einschließlich der Begründungen zurückgesendet worden.

„Ich bin überzeugt, dass … die Menschheit eine neue technologische Revolution erleben wird“, sagte er. „Alle Werkzeuge, die wir als Zivilisation entwickelt haben, können zum Bösen und Guten eingesetzt werden. Deshalb müssen wir zeigen, wie sie zum Guten eingesetzt werden können.“

Und der Ratsvorsitzende, der die Methode zunächst ablehnte, scheint bereits überzeugt zu sein.

„Ich habe es mir anders überlegt“, sagte Soßmeier. „Ich fing an, tiefer zu lesen und erkannte, dass dies unglücklicherweise oder zum Glück ein Trend sein wird.“

———-

Savarese berichtete aus Sao Paulo. Die AP-Journalisten Steve LeBlanc aus Boston und Matt O’Brien aus Providence, Rhode Island, haben zu diesem Bericht beigetragen.