OpenAI arbeitet mit einer Kindersicherheitsorganisation zusammen, um Richtlinien und Unterrichtsmaterialien für künstliche Intelligenz (KI) für Jugendliche und Familien zu erstellen.

Der Schritt erfolgt, da das Unternehmen hinter chatgpt wegen der Datenverarbeitung und der Befürchtung, dass KI der Gesellschaft schaden könnte, auf den Prüfstand gestellt wird.

Die Zusammenarbeit mit der gemeinnützigen Organisation Common Sense Media, die beurteilt, ob Medien und Technologie für Kinder geeignet sind, wurde am Montag bei einer Veranstaltung in San Francisco bekannt gegeben.

„Wir möchten herausfinden, wie wir dieses Tool sicher und verantwortungsbewusst und allgemein für Jugendliche und Menschen verfügbar machen können, die es im Rahmen ihrer Bildungserfahrung nutzen werden“, sagte Sam Altman, CEO von OpenAI, dem Publikum.

Die App wurde kritisiert, weil sie Minderjährige nicht schützt, da es keine Möglichkeit gibt, das Alter eines Benutzers zu überprüfen. Es steht auch auf dem Prüfstand, da seine Tools Halluzinationen hervorrufen können, bei denen die KI-Systeme selbstbewusst Dinge erfinden oder aufgrund der Daten, die zum Trainieren der Tools verwendet werden, voreingenommen sind.

Altman lehnte jedoch die Vorstellung ab, dass KI schädlich für Kinder sei und dass KI-Tools aus Schulen ferngehalten werden sollten.

„Menschen sind Werkzeugnutzer und wir bringen den Menschen besser bei, die Werkzeuge zu verwenden, die es auf der Welt geben wird“, sagte er. „Es wäre ein Fehler, den Leuten nicht beizubringen, diese zu nutzen.“

Common Sense Media hat versucht, ein KI-Bewertungssystem für Eltern, Kinder und Pädagogen zu entwickeln.

Einige Wissenschaftler haben Bedenken darüber geäußert, wie KI-Chatbots zum Schreiben von Aufsätzen eingesetzt werden könnten. Aber auch Kinder und Minderjährige nutzen ChatGPT, um bei persönlichen Problemen zu helfen.

Laut einer Umfrage des gemeinnützigen Center for Democracy and Technology haben 29 Prozent der Kinder und Jugendlichen in den USA ChatGPT genutzt, um bei Angstzuständen oder psychischen Problemen zu helfen, 22 Prozent bei Problemen mit Freunden und 16 Prozent bei der Familie Konflikte.