chatgpt hat eine Welle der künstlichen Intelligenz ausgelöst, was einen großen Schritt in der Entwicklung der Technologie darstellt, aber auch mehr versteckte Sorgen hervorgerufen hat. Der Vater von ChatGPT und OpenAI-CEO Altman (Sam Altman) nahm am 16. Mai an der Anhörung des US-Kongresses teil und forderte die potenzielle Gefahr der Technologie der künstlichen Intelligenz (KI) und war der Ansicht, dass die Regierung Gesetze erlassen sollte, um in die Aufsicht einzugreifen.

Zu den Mitgliedern der Senatsanhörung gehörten Senatoren beider Parteien, die Themen wie Arbeitslosigkeit, Rechte an geistigem Eigentum, genaue Nachrichten und Wahlen diskutierten. In seiner Rede erkannte Altman das Entwicklungspotenzial der künstlichen Intelligenz und sagte, dass KI die größten Probleme der Menschheit lösen könne, warnte aber auch, dass KI auch mächtig genug sein könne, um die Gesellschaft auf unvorhersehbare Weise zu verändern. „Regulierende Eingriffe der Regierung sind der Schlüssel dazu.“ Risiken reduzieren.“

Weiterführende Literatur: ChatGPT wurde populär, OpenAI CEO wurde populär! Was ist der Hintergrund dessen, der im Alter von 8 Jahren Programme schreiben kann?

Der Vater von ChatGPT schlug drei rote Linien vor, um eine außer Kontrolle geratene KI zu verhindern

Für große Unternehmen, die künstliche Intelligenz entwickeln, können Altmans Empfehlungen in drei Teile zusammengefasst werden:

• Schaffen Sie eine neue Regierungsbehörde mit Lizenzrechten für große KI-Modelle und der Befugnis, Lizenzen für Unternehmen oder Modelle zu widerrufen, die nicht den Regierungsstandards entsprechen.
• Legen Sie Sicherheitsstandards für KI-Modelle fest und bewerten Sie deren Risiken. Beispielsweise müssen die Modelle einige Sicherheitstests bestehen, etwa ob sie sich „selbst replizieren“ oder „exfiltrieren“ – also selbstständig und ohne menschliche Kontrolle agieren.
• Experten sind verpflichtet, unabhängige Prüfungen der Modellleistung anhand verschiedener Kennzahlen durchzuführen.

Viele Senatoren wiesen auch darauf hin, dass die aktuelle Situation der KI mit dem Aufstieg sozialer Netzwerke vor 20 Jahren verglichen werden könne, die Regierung jedoch beschlossen habe, nicht in die Entwicklung sozialer Netzwerke einzugreifen, was in der heutigen Zeit viele Probleme verursachte Sie wollen nicht dieselben Fehler wiederholen.

Es sind die „potenziellen Risiken“ der KI, die reguliert werden müssen, nicht die „technische Entwicklung“

Der Anhörung leitete Senator Richard Blumenthal eine „gefälschte Aufnahme“ ein; diese Aufnahme bestand aus Text, der von ChatGPT generiert wurde, und Blumenthals Stimme, die per Computer synthetisiert wurde. Die Bedeutung dieser Öffnungsmethode könnte nicht offensichtlicher sein – die Risiken, die künstliche Intelligenz mit sich bringt, und die Notwendigkeit, künstliche Intelligenz zu regulieren.

In den letzten Monaten haben sich immer mehr Technologiegiganten einem KI-Wettrüsten angeschlossen, das das Potenzial hat, die Art und Weise, wie wir in Zukunft arbeiten, einkaufen und interagieren, zu verändern, aber auch Millionen von Arbeitsplätzen zerstören und Fehlinformationen und giftige Vorurteile verbreiten könnte.

Altman betonte in der Anhörung auch, dass der Einsatz künstlicher Intelligenz zur Manipulation von Wählern und zur Erstellung gefälschter Nachrichten der besorgniserregendste Bereich sei, insbesondere „wir (die Vereinigten Staaten) werden nächstes Jahr vor Wahlen stehen, und diese (künstliche Intelligenz-)Modelle werden auch kontinuierlich optimiert.“ „Das Chaos der US-Wahlen im nächsten Jahr könnte schwer vorherzusagen sein.

Zu den Teilnehmern des Treffens gehörte neben Altman auch Christina Montgomery, IBMs Chief Privacy Officer. Sie warnte auch davor, dass die Ära der KI nicht länger „beweg dich schnell und zerbrich Dinge“ sein dürfe („Beweg dich schnell und zerbrich Dinge“, das Dogma von Silicon-Valley-Giganten wie Facebook seit vielen Jahren). Sie sagte den Senatoren aber auch, dass „wir bei Innovationen noch nicht auf die Bremse treten müssen“ und schlug vor, vorsichtig vorzugehen, aber auch die technologische Entwicklung nicht zu verbieten.

Sowohl Altman als auch Montgomery sagen, dass KI möglicherweise einige Arbeitsplätze vernichtet, aber auch neue schafft. „Es wird sich auf die Arbeitsplätze auswirken“, sagte Altman. „Es wird die Zusammenarbeit zwischen Industrie und Regierung erfordern, aber es wird das Handeln der Regierung sein, um zu entscheiden, wie wir diese Situation in Einklang bringen wollen. Aber wie groß wird die Zukunft der Arbeitsplätze sein? Nun ja.“ „Ich bin sehr optimistisch.“

Berechtigungen für KI-Modelle: Die Messlatte für Schlüsselfunktionen setzen

Altman forderte die Regierungsbehörden auf, einige „Schwellenwerte für kritische Fähigkeiten“ festzulegen, die die Registrierung und Lizenzierung von KI-Modellsystemen erfordern, die diese Schwellenwerte überschreiten.

Montgomery ist außerdem der Ansicht, dass von Produkten mit künstlicher Intelligenz verlangt werden sollte, dass sie bei der Interaktion mit der Nutzung transparent und vertrauenswürdig sind. Gleichzeitig betonte sie, dass der Kongress zwar noch keine entsprechenden Anforderungen festgelegt habe, IBM jedoch eine KI-Ethikkommission gebildet habe.

Weiterführende Literatur: Die Erleuchtung der Popularität von ChatGPT: Ist der Tag, an dem KI Arbeitskräfte ersetzt, endlich nicht mehr weit?

Unabhängige Regulierungsbehörden, politische Vorschriften und internationale Standards: Festlegung der Regeln für die Branche

Einige Senatoren befürworteten auch die Einrichtung einer neuen Regulierungsbehörde, um einige neue Technologien, einschließlich künstlicher Intelligenz, in ihre Zuständigkeit zu integrieren. Oort begrüßte diesen Vorschlag und glaubt, dass mit diesem Ansatz die Technologie der Vereinigten Staaten an der Spitze bleiben soll.

Altman drückte auch seine Unterstützung für internationale Organisationen aus, die Standards für künstliche Intelligenz festlegen, und sagte, dass Regierungen auf der ganzen Welt Präzedenzfälle für die Regulierung von Atomwaffen hätten, etwa die Internationale Atomenergiebehörde und ähnliche Organisationen, die Regeln für die Industrie festlegten.

Quelle:CNN、Axios、Washington Post

(Dieser Artikel stammt von digitales Zeitalter）