Es ist schwer, die Schlagzeilen und bemerkenswerten Ergebnisse zu vermeiden, die mit der Verwendung von Large Language Models (LLMs) wie chatgpt und google Bard sowie zusätzlichen neuen Modellen zur Generierung von Text- und Bildinhalten zu sehen sind. Infolgedessen untersuchen Behörden auf allen Regierungsebenen das Potenzial der Verwendung von KI-generierten Inhalten und Sprachmodellen, um ihre Dienstleistungen zu verbessern, Prozesse zu automatisieren und die Entscheidungsfindung zu verbessern.

Es gibt jedoch auch Bedenken hinsichtlich der ethischen und rechtlichen Implikationen der Verwendung von KI-generierten Inhalten und Sprachmodellen in Regierungsbehörden. Diese Bedenken umfassen Fragen der Voreingenommenheit, Genauigkeit, Transparenz und Rechenschaftspflicht, die schwerwiegende Auswirkungen auf das öffentliche Vertrauen, die Bürgerrechte und die soziale Gerechtigkeit haben könnten. Daher ist es von entscheidender Bedeutung, die Vorteile und Risiken von KI in Regierungsbehörden sorgfältig abzuwägen und geeignete Richtlinien und Richtlinien zu entwickeln, um den verantwortungsvollen und ethischen Einsatz dieser Technologien sicherzustellen.

Bei der April 2023 GovFuture-Forum-Veranstaltung an der George Mason University (GMU) in der Region Washington, DC, Regierungsführer Anthony Boese (Presidential Management Fellow, Interagency Programs Manager und Ethikbeauftragter für das National Artificial Intelligence Institute). [NAII]), Scott Beliveau (Branch Chief of Advanced Analytics & Acting Director of Data Architecture in the Office of the Chief Technology Officer (OCTO) at the United States Patent and Trademark Office [USPTO]) und Patrick McLoughlin (Chief Data Officer für den Bundesstaat Maryland) teilten ihre Ansichten zum Einsatz von KI und LLMs in der Regierung sowie ihre aktuelle Haltung in Bezug auf ihren Einsatz bei Regierungsaktivitäten.

Die wichtigsten Ergebnisse der Veranstaltung und dieser Podiumsdiskussion sind unten aufgeführt.

Anthony Boese (NAII):

„Die meisten von uns haben noch wenig Richtlinien abgeleitet, insbesondere zu LLMs wie ChatGPT. Es ist sehr neu und es dauert eine Weile, bis die Politik aufgestanden ist. Die Agenturen unterscheiden sich darin, wie bequem sie damit experimentieren. Das NAII (National AI Institute) ist in der VA untergebracht. Es gibt eine sehr begrenzte Anwendung [of LLMs] Wir werden in der VA haben, aber sie erlauben etwas mehr die Verwendung von LLMs. Eine Sache, die man im Hinterkopf behalten sollte, ist ein LLM, und solche Dinge sind KI. Und KI als breitere Kategorie, die mehrere neue, aber sehr mächtige Vorschriften beinhaltet, wie eine Sammlung von Executive Orders (EOs), was am wichtigsten ist, EO 13859 Und EO 13960, bei dem es um vertrauenswürdige KI geht. Als zusätzliche Qualifikation haben wir eine Liste von Dingen, die wir unter dem, was wir vertrauenswürdige KI nennen, tun müssen. Wenn Sie also darüber nachdenken, was die Regierung tut, um diese Dinge zu triangulieren, ist das unser Slogan „vertrauenswürdig“.

Patrick McLouglin (CDO, Maryland):

„Als State Chief Data Officer für Maryland bin ich auch stellvertretender Geschäftsführer für unser MD Think-Programm, das im Wesentlichen unsere Cloud-basierte Umgebung für Lieferdienste für die am stärksten gefährdeten Einwohner von Maryland ist, das heißt Familiendienste, jede Art von Essen und Ernährungsleistungen, das SNAP-Programm, unser Kindergeld, unsere Kinderfürsorge, unsere CGM-Programme, all dies wurde durch dieses spezielle Cloud-basierte Programm ermöglicht.

Da der State Chief Data Officer für die gesamte Exekutive zuständig ist, habe ich unterschiedliche Einblicke in die verschiedenen Agenturen von 28 Exekutivagenturen in Maryland, die Agenturen sind, sie alle haben unterschiedliche Ansätze, wo dies praktikabel wäre. Und zunächst betrachten wir dies als einen längeren Fahrplan, um einige dieser Richtlinien zu entwickeln. Es wurde bis zu unserem Zeitplan schnell erweitert, um zu versuchen, die Festigung dieser Richtlinien zu umgehen, nur aufgrund der Art von ChatGPT oder Google Bard oder der unterschiedlichen Verfügbarkeit von generativer KI, die es gibt, und der Notwendigkeit, einige dieser Leitplanken aufstellen zu können um sicherzustellen, dass sich unsere Mitarbeiter und dann die im Staat arbeitenden Menschen nicht nur darauf verlassen, um Dokumente bereitzustellen, die als maßgeblich angesehen werden, als in Stein gemeißelt angesehen werden, als Übereinstimmung mit Richtlinien oder zur Unterstützung der Gesetzgebung überhaupt.

Wir befinden uns in einer ähnlichen Lage (wie die US-Bundesregierung), insbesondere was LLM betrifft. Wir sind gerade sehr im Entwicklungsprozess, wie wir damit umgehen wollen. Ein Großteil unseres Fokus liegt derzeit darauf, einige der Risiken zu mindern oder zu begrenzen, die wir mit einigen dieser Unbekannten im Vorfeld in Bezug auf die Verwendung haben. So zum Beispiel einige der Bedenken, dass jemand in einem bestimmten Büro damit beginnen könnte, Beschaffungsanforderungen oder ähnliches zu generieren, und wie wir versuchen wollen, dies zunächst mit einigen Leitplanken zu versehen, wenn wir beginnen, unsere Anwendungsfälle weiterzuentwickeln und die Politik drumherum. Wir befinden uns also in einem ähnlichen Zustand wie die Bundesregierung, um uns zu entwickeln. Darüber haben wir zumindest gesprochen.“

Scott Beliveau (USPTO) lieferte zusätzlich zu seiner Podiumsteilnahme zusätzliches schriftliches Feedback zu diesem Artikel:

Welche allgemeine Haltung vertritt Ihre Agentur in Bezug auf die Verwendung von KI-generierten Inhalten?

Scott Beliveau (USPTO): Die Mission des Patent- und Markenamts der Vereinigten Staaten (USPTO) besteht darin, integrativere Innovationen zu fördern und zu schützen und den wirtschaftlichen Wohlstand und die nationale Sicherheit unseres Landes zu verbessern. Auf geistiges Eigentum (IP) intensive Industrien entfielen 2019 7,8 Billionen US-Dollar des US-Bruttoinlandsprodukts (BIP) oder 41 Prozent des gesamten BIP.

Künstliche Intelligenz (KI) hat das Potenzial, enorme gesellschaftliche und wirtschaftliche Vorteile zu bieten und eine neue Welle von Innovation und Kreativität zu fördern. KI erscheint jetzt in 18 Prozent aller neuen Gebrauchsmusteranmeldungen und in mehr als 50 Prozent aller Anmeldungen, die wir beim USPTO prüfen. KI-generierte Inhalte und andere neue Technologien können jedoch neue Herausforderungen und Chancen sowohl in der IP-Politik als auch in den Instrumenten zur Bereitstellung zuverlässiger Rechte an geistigem Eigentum darstellen. Folglich bestand unsere allgemeine Haltung darin, einen maßvollen Ansatz zu verfolgen, indem wir die breitere Innovationsgemeinschaft und KI-Experten aktiv einbeziehen und Feedback zu Fragen der IP-Politik einholen. Wir erkennen auch an, dass in Zukunft politische Fragen auftauchen werden, die wir uns noch nicht vorstellen können. Mit diesen Engagements streben wir danach, die beeindruckenden Durchbrüche in der KI und anderen neuen Technologien durch unser erstklassiges System für geistiges Eigentum weiter zu fördern.

Welche potenziellen Risiken sind mit der Verwendung von Large Language Models (LLMs) wie ChatGPT, Bard oder anderen bei der Arbeit Ihrer Agentur verbunden?

Scott Beliveau (USPTO): Ein Patent, eine Marke oder ein Urheberrecht ist Teil eines großen Handels. Einer Erfinderin, Unternehmerin oder Künstlerin wird eine Zeit lang Exklusivrechte eingeräumt, die sie ermutigt, Innovationen auf den Markt zu bringen, die die Gesellschaft in irgendeiner Weise verbessern. Im Gegenzug werden Details über die Erfindung oder das Produkt – etwa wie es hergestellt und verwendet wird – veröffentlicht, wodurch andere befähigt werden, die Innovation zu verbessern. Das große Abkommen von Schutz gegen Transparenz, das zu weiteren Innovationen führt, ist so grundlegend für den Fortschritt unserer Nation, dass es in Artikel 1 der US-Verfassung verankert ist.

Die Executive Order „Vertrauenswürdige KI in der Bundesregierung“ (EO 13960) vom Dez. 2020 setzt auf Transparenz und IP-Schutz für Innovationen. Jeder, der die Nachrichten in letzter Zeit verfolgt, weiß, dass LLMs Voreingenommenheit, Unvorhersehbarkeit und böswilliges Verhalten zeigen können. KI kann bestehende Vorurteile aufrechterhalten und irreführende oder ungenaue Informationen liefern. LLMs können an großen Mengen an persönlichem, proprietärem oder urheberrechtlich geschütztem Material geschult werden und „Ableitungen“ ohne Berücksichtigung von IP-Rechten ausgeben. Benutzeranfragen an öffentliche LLMs werden wahrscheinlich von der Organisation gespeichert, die das LLM bereitstellt, und dann in zukünftigen Versionen verwendet. Die Voreingenommenheit, der Mangel an Sicherheit und das Risiko des LLM sind Schlüsselvariablen, wenn unsere Führungskräfte die Auswirkungen auf die Richtlinien der Agentur und die Nutzung durch die Mitarbeiter berücksichtigen. Die schnelle Entwicklung von LLMs übertrifft das öffentliche Engagement, das erforderlich ist, um die Sicherheit und Wirksamkeit dieser Technologien vollständig zu bewerten, zu verifizieren und zu validieren.

Wie arbeiten Sie daran, diese Risiken zu mindern?

Scott Beliveau (USPTO): In unserer Agentur sind wir bestrebt, das Potenzial der generativen künstlichen Intelligenz (KI) zu verstehen und zu nutzen, um die operative Qualität und Effizienz unserer Agentur zu verbessern. Wir setzen uns für Innovation innerhalb unserer Agentur genauso ein wie für die Förderung von Innovation im ganzen Land und auf der ganzen Welt. Wir müssen diese Leidenschaft jedoch mit der Gewährleistung in Einklang bringen, dass unsere eigene Nutzung von KI-Technologien transparent ist und starke Rechte an geistigem Eigentum schützt. Gemäß den bestehenden Behörden- und Bundesrichtlinien haben wir begonnen, die Risiken von LLMs zu mindern, indem wir unseren Mitarbeitern und Auftragnehmern verboten haben, generative KI-Tools zu verwenden. Diese sofortige Maßnahme wurde ergriffen, während wir weiterhin nach Möglichkeiten suchen, LLM-Fähigkeiten in einer verantwortungsvollen Weise in die Agentur einzubringen, die Amerikas Innovatoren dient.

Die vollständige Aufzeichnung für die Die Veranstaltung des GovFuture-Forums ist auf der GovFuture-Website verfügbar.

Folge mir auf Twitter oder LinkedIn. Kasse Mein Webseite oder einige meiner anderen Arbeiten Hier.