Das KI-Marketing befindet sich im Fieber und verspricht, dass diese neue Welle generativer KI-Tools, die auf großen Sprachmodellen basieren, uns dabei helfen kann, alles zu tun Rechtliche Verträge navigieren Zu Hunderte sparen auf unseren Telefonrechnungen. Wenn eine Führungspersönlichkeit wie Alphabet-CEO Sundar Pichai KI als „tiefgreifender als Feuer oder Elektrizität“ bezeichnet, ist es schwer, nicht von dem Potenzial begeistert zu sein. Aber als CEO von Consumer Reports weiß ich, dass einige der glänzendsten Objekte auf dem Markt ihrem Hype nicht immer gerecht werden. Der Heißhunger auf vierteljährliche Gewinne ist zu oft der Motor hinter der heutigen gesellschaftsverändernden generativen KI, und die Verbraucher werden um die gerechte Portion kämpfen müssen. Nur wenn die KI-Revolution Transparenz, Genauigkeit und Fairness in den Mittelpunkt stellt, können wir sicherstellen, dass sie ihr wahres Potenzial für uns, die alltäglichen Verbraucher, und nicht nur für die Aktionäre von Unternehmen, ausschöpft.

Ein verbraucherorientierter Ansatz ist niemals garantiert. Als Consumer Reports 1936 gegründet wurde, gab es nur wenige öffentlich zugängliche Informationen, die den Amerikanern helfen könnten, die Sicherheit und Leistung von Produkten zu beurteilen. Es war eine Zeit der uneingeschränkten Werbeaussagen, des rasanten technologischen Fortschritts und des Flickenteppichs von Vorschriften. Klingt bekannt? Heute sind unsere transformativen Produkte nicht mehr physisch wie 1936 – oder sogar 1996 –, aber nichtsdestotrotz bleibt die Strenge, mit der sie getestet und Unternehmen zur Rechenschaft gezogen werden müssen, dieselbe.

Wir müssen nur in die jüngste Vergangenheit blicken, um zu verstehen, welche Probleme wir aufgrund der KI-Revolution, die wir erleben, erwarten können. Der Ansturm der sozialen Medien und die digitale Transformation von Online-Marktplätzen machten viele ähnliche Versprechungen, die die KI-Revolution heute macht – sofortige Verbindung, erhöhte Geschwindigkeit und Genauigkeit von Informationen, die Demokratisierung der Macht. Diese Tools haben jedoch auch neue Varianten der Manipulation und Diskriminierung hervorgebracht – gegen die wir immer noch mit gemischten Ergebnissen kämpfen, um sie vollständig anzugehen.

Die grundlegenden Probleme sind nicht neu, werden aber durch KI verstärkt. Seit Jahren nutzen Betrüger das Internet, um Verbraucher auszunutzen. Jetzt nutzen sie KI dazu ahmen Sie die Stimmen Ihrer Lieben nach, Großeltern dazu zu bringen, „zu helfen“, indem sie Geld senden oder vertrauliche Informationen bereitstellen. Unternehmen nutzen bereits Suchmaschinen, um die Grenze zwischen Antworten auf unsere Fragen und Werbung zu verwischen, um uns Produkte zu verkaufen. Mit generativen KI-Suchwerkzeugen könnten Verbraucher gegen einen Supercomputer antreten, der von Ihren persönlichen Daten angetrieben wird und der die Gewinne eines Unternehmens priorisiert, nicht ehrliche Antworten oder Ihre besten Interessen.

Das wohl heimtückischste Problem, das es zu entwurzeln gilt, sind die voreingenommenen Daten, die diese innovative Technologie möglicherweise antreiben. Schon vor der neuen Explosion der generativen KI hatten Experten bereits aufgedeckt, wie die algorithmische Technologie, die unsere heutige Welt antreibt, diskriminieren kann. Eine gemeinsame Untersuchung von Consumer Reports und ProPublica ergab beispielsweise, dass einige Autoversicherungsunternehmen möglicherweise einen solchen Algorithmus verwenden berechnete Prämien im Durchschnitt 30 % höher in Postleitzahlen mit überwiegend Minderheitenbewohnern als in weißeren Vierteln mit ähnlichen Unfallkosten. Während die generative KI ein neueres Feld ist, gibt es bereits Beispiele dafür, wie sie Vorurteile wie das Geben aufrechterhält Tipps zur Verbreitung von Antisemitismus im Internet. Was passiert, wenn noch mehr des Marktes – unseres Alltags – von intransparenten Technologien abgewickelt wird? Förderung systemischer Ungerechtigkeit in unserer ganzen Gesellschaft?

Wir müssen uns eine entscheidende Frage stellen: Schaffen wir eine Welt, in der diese Technologie uns dient, oder in der wir dieser Technologie dienen? Während wir die Vorteile der KI nutzen, müssen wir sicherstellen, dass diese Innovation in diesem Bereich von verbraucherorientierten Werten angetrieben wird.

Generative KI muss transparent sein – der Schlüssel zur Verantwortlichkeit. Damit Anwälte und Aufsichtsbehörden auf potenzielle Schäden prüfen können, benötigen sie Einblick in die Daten, die verwendet werden, um KI zu informieren, wobei Modelle für externe Forscher zum Testen offen stehen. Viele Modellanbieter arbeiten mit Forschungsinstituten zusammen, um Risiken zu bewerten und zu mindern – aber wir können uns nicht allein auf Selbstorganisation und freiwillige Offenlegung verlassen, wenn Gewinne die Unternehmensinteressen bestimmen. Für einzelne Verbraucher bedeutet Transparenz, dass es glasklar sein sollte, ob jemand für die Informationen bezahlt, die wir erhalten, und ob wir mit einer echten oder einer künstlichen Person interagieren.

Generative KI-Modelle müssen auch Genauigkeit durch Design gewährleisten. Verbraucher sollten davon ausgehen können, dass die Informationen, die sie erhalten, wahr und genau sind und keine leeren Worte oder getarnte Werbung. Dies erfordert Sorgfalt und Aufsicht seitens der Unternehmen sowie einen Prozess, mit dem Personen die von der KI bereitgestellten Informationen korrigieren oder anfechten können.

Und Fairness sollte im Mittelpunkt der KI stehen und unter Berücksichtigung der Gerechtigkeit entwickelt und eingesetzt werden. Das bedeutet, dass die eingegebenen Daten während des Designs und während der gesamten Lebensdauer des Produkts auf Verzerrungen überprüft werden, um sicherzustellen, dass die Vorteile dieser Technologie von allen Gemeinschaften genutzt werden.

Der KI-Pitch verspricht so viel – und ich glaube an das Potenzial. Aber mit der Entfesselung dieser neuen Technologieklasse geht eine neue Klasse von Verantwortung, Transparenz und Rechenschaftspflicht einher. Es lohnt sich, für den Verbraucherschutz zu kämpfen, und gemeinsam können wir sicherstellen, dass diese neue Ära der KI-Revolution von einer neuen Ära der Verbraucherrechte geleitet wird.

Marta Tellado ist seit 2014 CEO von Consumer Reports.

Möchten Sie mehr über KI, Chatbots und die Zukunft des maschinellen Lernens erfahren? Schauen Sie sich unsere vollständige Berichterstattung über an künstliche Intelligenzoder stöbern Sie in unseren Leitfäden zu Die besten kostenlosen KI-Kunstgeneratoren Und Alles, was wir über ChatGPT von OpenAI wissen.