KI-Bots wie ChatGBT könnten eine „Alieninvasion“ ankündigen, die die Menschheit auslöschen könnte, warnte ein Spitzenprofessor für künstliche Intelligenz.

Stuart Russell, der den Grundstein für neue Technologien legte, argumentierte, die Minister seien hinsichtlich der Risiken selbstgefällig gewesen.

Der britische Professor, der Downing Street und das Weiße Haus beraten hat, sagte, er sei verärgert darüber, dass Minister sich für eine lockere Regulierung der KI-Industrie ausgesprochen hätten, obwohl Beamte warnten, dass ihre Produkte eine enorme Bedrohung darstellen könnten.

Russell unterzeichnete kürzlich einen offenen Brief, in dem er warnte, dass KI-Labore „in einen außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Köpfe verwickelt sind, die niemand, nicht einmal ihre Schöpfer, verstehen kann“, so Russell Die Zeiten.

„Wir haben Fortschritte gemacht, ohne es zu erwarten“, sagte er und fügte hinzu, es sei möglich, dass ein System ähnlich wie ChatGBT Teil einer superintelligenten Maschine sein könnte, die jedem Versuch, es zu kontrollieren, standhalten würde.

Ein Sprecher der britischen Regierung sagte: „Wir sind uns bewusst, dass künstliche Intelligenzsysteme mit zunehmender Leistungsfähigkeit neue Herausforderungen und Risiken mit sich bringen werden. Deshalb enthält die internationale Technologiestrategie eine öffentliche Verpflichtung, einen globalen Dialog über KI-Risiken einzuleiten.“

„Wir müssen handeln und die Art und Weise anpassen, wie wir Technologien wie KI regulieren, die in unserer Wirtschaft und Gesellschaft eine immer wichtigere Rolle spielen.“

Seit etwa zehn Jahren fordert Russell lautstark ein Verbot des Einsatzes von KI zur Herstellung autonomer Waffen.

Ein Risiko besteht seiner Ansicht nach darin, dass einer leistungsstarken KI ein Ziel vorgegeben und eine Methode gewählt wird, mit der dieses Ziel erreicht wird, allerdings mit unvorhergesehenen Nebenwirkungen, die für die Menschheit verheerend sind.

Er nutzte das Beispiel einer Welt, in der KI vor der Herausforderung steht, den Klimawandel in den Griff zu bekommen, und kommt zu dem Schluss, dass der beste Weg darin besteht, die Erde der Menschen zu entledigen.

Russel erklärte, dass die Vorteile eines verantwortungsvollen Einsatzes von KI groß sein könnten – eine Möglichkeit, dies zu erreichen, besteht darin, Systeme zu schaffen, die nur in einer Sache gut sind, im Gegensatz zu einer AGI, die jede menschliche Fähigkeit erlernen kann.

„Es ist eine unglaublich nützliche Sache.“ Aber es geht nicht darum, die Weltherrschaft zu übernehmen, oder?“, sagte er.