OpenAI hat kürzlich GPT-4 veröffentlicht, das aktuelle System im Herzen von ChatGPT. Keystone
Angesichts der zahlreichen Bedenken von Cybersicherheitsspezialisten wird ein Überwachungsausschuss die nächsten drei Monate damit verbringen, die Gefahren im Zusammenhang mit der Entwicklung fortschrittlicher KI zu bewerten.
OpenAI, das Unternehmen hinter ChatGPT, gab am Dienstag die Einrichtung eines neuen Aufsichtsausschusses bekannt, da der Abgang mehrerer Beamter Bedenken hinsichtlich seines Wunsches aufkommen ließ, die potenziellen Gefahren der KI zu verringern.
„Wir sind stolz darauf, branchenführende KI-Modelle sowohl hinsichtlich ihrer Fähigkeiten als auch ihrer Sicherheit zu entwickeln und bereitzustellen, und begrüßen in diesem entscheidenden Moment die heftige Debatte, die sie auslöst.“
Eine Pressemitteilung des Unternehmens
Nach Angaben des Unternehmens soll das Komitee, in dem sein Chef Sam Altman sitzen wird, seine Arbeit aufnehmen, während OpenAI mit dem Training seines neuen Modells für künstliche Intelligenz (KI) beginnt, das die Fähigkeiten von GPT-4, dem aktuellen System, übertreffen soll das Herzstück von ChatGPT.
OpenAI versicherte außerdem, in diesem Zeitraum Rat von externen Spezialisten zu erhalten, darunter der ehemalige amerikanische Leiter der Cybersicherheit, Rob Joyce, der diese Abteilung innerhalb der National Security Agency (NSA) leitete, sowie John Carlin, ehemaliger Leiter von das Justizministerium.
Der Ausschuss wird eine Bestandsaufnahme der bereits vorhandenen Sicherheitsprotokolle vornehmen und Empfehlungen für mögliche Verbesserungen oder Ergänzungen unterbreiten.
Die Gründung dieses Ausschusses soll eine Reaktion auf den Austritt mehrerer hochrangiger Beamter aus der Gruppe sein, die besorgt darüber sind, dass OpenAI ihrer Meinung nach der KI-Sicherheit keine Priorität einräumt.
Anfang dieses Monats löste das Unternehmen sein Team zur langfristigen Risikominderung auf.
Bei der Ankündigung seines Abgangs kritisierte Teamleiter Jan Leike in einer Reihe von Tweets seinen Ex-Arbeitgeber und warf ihm vor, „schönen neuen Produkten“ den Vorzug zu geben, zu Lasten der wesentlichen Sicherheitsarbeit der KI:
„Mein Team ist in den letzten Monaten gegen den Strom gesegelt“
Das Unternehmen sorgte auch für Kontroversen, als seine neueste Version eine Stimme enthielt, die der der amerikanischen Schauspielerin Scarlett Johansson sehr ähnlich war, auch wenn OpenAI versicherte, dass es nicht versuchte, den Hollywoodstar zu kopieren. (ats/jch)
Internationale Nachrichten, Tag und Nacht, finden Sie hier:
Alle Artikel anzeigen
Kopftransplantation bald möglich?
Video: Watson
Das könnte Sie auch interessieren:
