Die Federal Trade Commission (FTC) hat eine Untersuchung gegen den Ersteller von chatgpt eingeleitet. Und der Grad der Präzision seiner Fragen, sei es zu seinen Finanzen oder seiner Technologie, sagt viel über den Verdacht der amerikanischen Regierung aus.

Wird OpenAI bald von der Federal Trade Commission (FTC) genehmigt? Das von Sam Altman gegründete Start-up ist Gegenstand einer Untersuchung des amerikanischen Polizisten. In der Woche vom 10. Juli sandte er ihr eine Bitte um zusätzliche Informationen, wie aus einem von der Nachrichtenagentur eingesehenen Dokument hervorgeht Washington Post. Die Untersuchung konzentriert sich auf zwei Beschwerden: Der erste betrifft einen angeblichen Verstoß gegen den Schutz personenbezogener Daten von Verbrauchern, der zweite betrifft teilweise irreführende oder sogar verleumderische Informationen ChatGPT.

Halluzination und Datenleck

Die FTC ist besonders an einem Leck vertraulicher Daten auf ChatGPT interessiert, das am 20. März 2023 stattfand. Einige Stunden lang konnten einige Benutzer den Nachnamen, den Vornamen, die E-Mail-Adresse, die Rechnungsadresse und die letzten vier Ziffern von abrufen die Kreditkartennummer und das Ablaufdatum mehrerer Kunden. Die FTC untersucht nun, ob die Sicherheitspraktiken des Unternehmens den Verbraucherschutzgesetzen entsprechen.

Parallel dazu bittet die US-Behörde OpenAI um detaillierte Beschreibungen aller eingegangenen Beschwerden über „falsche, irreführende, verleumderische oder schädliche“ Informationen, die von ChatGPT generiert werden. Die Untersuchung konzentriert sich tatsächlich auf die Haupttendenz der KI, die Halluzination. Die FTC untersucht, ob die Kommentare des Chatbots möglicherweise zu einer „Reputationsschädigung“ der Verbraucher geführt haben.

Finanzierung und technische Fragen

Parallel und entsprechend dokumentierenDie Federal Trade Commission versucht zu klären, wie das Unternehmen finanziert wird. Insbesondere muss OpenAI alle Aktionäre des Unternehmens auflisten, die mindestens 5 % der Aktien halten. Das Start-up wird außerdem gebeten, seine Finanzierungsmethode und seine finanziellen Ziele zu beschreiben. Auf der technischen Seite möchte die FTC verstehen, wie die Modelle von OpenAI in den letzten Jahren trainiert wurden. Vom Start-up werden insbesondere die Herkunft der Daten, die Methode ihrer Beschaffung, die Klassifizierung (nach Labels) und ihre Verteilung, das Verfahren zur Auswahl der Quellen und der Prozentsatz der Textdaten nach Sprache abgefragt.

In ihrer Petition verlangt die FTC außerdem, dass OpenAI ihr die vor der Veröffentlichung ihrer Sprachmodelle geltenden Sicherheitsrichtlinien und -verfahren, einschließlich der neuesten Iterationen der historischen Modelle, genau beschreibt. Mit dieser Anfrage versucht die Agentur herauszufinden, ob OpenAI Sicherheitsmaßnahmen implementiert hat, um die Risiken für Endbenutzer zu minimieren. Dieses Verfahren ermöglicht es der FTC, den Grad der Verantwortung von OpenAI für die geäußerten Beschwerden einzuschätzen. Mehrere den KI-Experten wohlbekannte Vorurteile wie Halluzinationen und sofortige Injektion werden ebenso in Frage gestellt wie deren Wiederauftreten.

Schließlich ist die Wirtschaftspolizei eher traditionell an der Verarbeitung personenbezogener Daten interessiert. Für jedes vermarktete Produkt wird OpenAI gebeten anzugeben, welche Arten personenbezogener Daten erfasst, analysiert und gespeichert werden. Für jede Art von Daten muss das Start-up die Quelle, den Speicherort (einschließlich Kopien), die Aufbewahrungsfrist, die Löschfrist nach Benutzeranfrage, den Zweck der Übermittlung an andere Organisationen, den endgültigen Zweck und die Personen angeben berechtigt, die Daten einzusehen.

FTC geht hart mit OpenAI um?

Laut mehreren Branchenexperten sind die Anfragen der FTC an OpenAI außergewöhnlich. Es kommt selten vor, dass die US-Behörde solch komplexe und detaillierte Anfragen stellt. Seit mehreren Monaten warnt die Kommission davor, dass sie an Maßnahmen arbeite, um Unternehmen, die im Bereich der künstlichen Intelligenz tätig sind, besser zu regulieren. Während einer Rede an der Harvard Law School im April sagte Samuel Levine, Direktor des Büros für Verbraucherschutz der Verwaltung, dass die Behörde nicht von Natur aus feindlich gegenüber KI sei. „Die FTC befürwortet Innovation, aber Innovation gibt nicht das Recht, rücksichtslos zu sein“, erklärte der Manager damals gegenüber der Washington Post. Eine Position, die Vizepräsidentin Kamala Harris am Mittwoch, den 12. Juli, teilte. „Die Behauptung, wir müssten uns zwischen der Förderung von Innovationen und dem Schutz der Verbraucher entscheiden, ist eine irreführende Entscheidung. Wir können beides tun“, sagte sie.

Natürlich hat OpenAI es nicht versäumt, die von der FTC erhobenen Vorwürfe energisch zurückzuweisen. „Es ist sehr enttäuschend zu sehen, dass die Anfrage der FTC mit einem Leck beginnt und nicht dazu beiträgt, Vertrauen aufzubauen. Dennoch ist es für uns äußerst wichtig, dass unsere Technologie sicher und verbraucherfreundlich ist, und wir sind zuversichtlich, dass dies der Einhaltung des Gesetzes entspricht.“ „Natürlich werden wir mit der FTC zusammenarbeiten“, sagte Sam Altman.

Der CEO von OpenAI versichert, dass GPT-4 „basierend auf jahrelanger Sicherheitsforschung“ entwickelt wurde. Er verspricht, dass das Modell sechs Monate vor seiner Markteinführung untersucht und überarbeitet wurde, um „es sicherer und besser ausgerichtet zu machen“. Die Entscheidung liegt bei der FTC.