Ein Jahr nach der Öffnung von chatgpt für die Öffentlichkeit markiert die Integration generativer KI in Smartphones einen neuen technologischen Wendepunkt.
„Generative Smartphones“ feierten im Oktober 2023 mit der Veröffentlichung von ihr Debüt bei google Pixel 8 ein Du Pixel 8 Pro. Samsung kündigte Anfang November die Integration generativer KI in seine neue Produktreihe (Galaxy S24, Galaxy S24+, Galaxy S24 Ultra) an: sie sollen von der Firma am 17. Januar 2024 vorgestellt werden und mit Gauss ausgestattet sein, einem von Samsung Research entwickelten generativen KI-Modell vom Typ Chatbot, und Galaxie-KIeine weitere KI-Lösung.
Diese Integration verspricht erhebliche Verbesserungen der Funktionalität und Leistung und definiert die Art und Weise, wie Benutzer jeden Tag mit ihren Geräten interagieren, neu. Da es jedoch verspricht, eine Fülle falscher Inhalte zu generieren, bringt es auch ethische, rechtliche und technische Herausforderungen mit sich, die vom Informationschaos bis zur Sicherung „echter Daten“ reichen.
Generative KI, wirtschaftliche und geopolitische Fragen
Generative KI umfasst Modelle, die in der Lage sind, selbstständig verschiedene Inhalte wie Texte, Bilder, Code und Multimedia-Inhalte zu erstellen. Diese Modelle lernen aus großen Datensätzen und liefern Originalergebnisse, die nicht von menschlichen Kreationen zu unterscheiden sind.
Ihr Potenzial für einen gesellschaftlichen Wandel ist unbestreitbar, da sie zunehmend in beruflichen Kontexten eingesetzt wird, in denen Einzelpersonen mit generativer KI konfrontiert werden. Dies hängt in erster Linie mit der Tatsache zusammen, dass Unternehmen sie zur Verbesserung ihrer Leistung integrieren, beispielsweise bei der Verbesserung der Beziehung Klient ; sondern auch, weil seine Beherrschung für die Ausübung vieler Berufe unerlässlich wird, insbesondere in der kreativen Landschaft: Werbeagenturen, Marketingdienstleister, digitale Unternehmen … und sie schafft sie, wie zum Beispiel den neuen Beruf des „Prompt-Ingenieurs“, dessen Aufgabe es ist, zu arbeiten Optimieren Sie die an das System der künstlichen Intelligenz gestellten Anfragen, um eine möglichst relevante Antwort zu erhalten.
Die Demokratisierung der generativen KI mit der Zugänglichkeit von ChatGPT für die breite Öffentlichkeit im November 2022 hat zu einer massiven Akzeptanz mit 100 Millionen Nutzern zwei Monate nach der Einführung geführt. Dies erregte erhebliche mediale und akademische Aufmerksamkeit und machte ChatGPT zu einem „Lehrbuch“ für zahlreiche Studien zu seinen gesellschaftlichen Auswirkungen, Chancen, Herausforderungen und Implikationen für die Forschung.
Mehr lesen: Wird künstliche Intelligenz die Medien töten oder retten?
Im weiteren Sinne wurden Studien zum wirtschaftlichen Potenzial generativer KI durchgeführt. A Mc Kinsey Digital-Studie betont, welchen Wachstumshebel dies für Unternehmen darstellt. Der MarktGenerative KI soll im Jahr 2023 einen weltweiten Umsatz von 42 Milliarden Euro erreichen; Analysten prognostizieren ein durchschnittliches Wachstum der Marktgröße von etwa 24 % pro Jahr (was bis 2030 einen Jahresumsatz von mehr als 200 Milliarden Euro bedeuten würde).
Generative KI wird von großen Unternehmen wie Microsoft, Google und Baidu unterstützt, die dies nun verfolgen ihr Rennen um die Führung. Beispielsweise kündigte S. Nadella, CEO von Microsoft, am 23. Januar 2023 an, in den kommenden Jahren mehrere Milliarden Dollar in OpenAI investieren zu wollen – womit ChatGPT ins Leben gerufen wurde (10 Milliarden US-Dollar). Selon Bloomberg).
Auch wenn einige Länder vorsichtig, ja sogar alarmierend sind, Diese Technologien werden von vielen Ländern auch als geopolitisches Problem angesehen.
In diesem Zusammenhang müssen KI-Akteure, Wirtschaftsführer, Regierungen und auch die Zivilgesellschaft ebenso schwindelerregende Herausforderungen bewältigen: ethische Herausforderungen (Missbrauch), Herausforderungen bei der Datensicherheit usw.
Mehr lesen: Wer wird die KI regieren? Der Wettlauf der Nationen um die Regulierung künstlicher Intelligenz
Generative KI in Google- und Samsung-Smartphones bietet leistungsstarke Anwendungen, birgt jedoch Risiken und Herausforderungen im Zusammenhang mit der Manipulation von Inhalten und der Datensicherheit durch Benutzer, die ihr Smartphone neu befähigt haben.
Informationschaos, erstes großes Risiko bei neuen Nutzertypen
Durch die Möglichkeit, Inhalte nach Belieben zu manipulieren, besteht bei der Integration generativer KI-Systeme in Smartphones die Gefahr, dass es zu einer Verbreitung von Deepfakes kommt und die Verbreitung dieser falschen, aber glaubwürdigen Inhalte verstärkt wird. Das könnte Dies untergräbt die Glaubwürdigkeit von Online-Informationen weiter und führt zu einem weit verbreiteten Informationschaos.
Ganz zu schweigen von einem Risiko, das sich als fatal erweisen kann: der möglichen Explosion von Cyberbelästigung, insbesondere über « Deepfake-Porno »eine gewalttätige Praxis, die 2017 aufkam und durch die Einführung generativer KI in Smartphones „erleichtert“ wird.
Lerndaten sichern
DER Generative Modelle können Daten erzeugen : zum Beispiel Bilder, die eine verblüffende Ähnlichkeit mit echten Daten aufweisen. Dies kann daher in böswilliger Absicht dazu verwendet werden, Fälschungen, Fälschungen oder irreführende Inhalte zu erstellen, sei es in Textform, und dient beispielsweise Betrugsversuchen wie z Phishingoder Visuals: Fotomontagen, Videomontagen (DeepFake).
Darüber hinaus können durch ein böswilliges generatives Modell fehlerhafte Daten hergestellt werden. Diese könnten in verwendet werden Lernkorpus zukünftiger wichtiger Sprachmodelle (große Sprachmodelle oder LLM, wofür ChatGPT das bekannteste Beispiel ist) oder andere Modelle der künstlichen Intelligenz.
In der Tat, Bestimmte generative Modelle können sich als anfällig für „gegnerische Beispielangriffe“ erweisen. (gegnerische Angriffenicht wahr?klassisches Beispiel für ein Modell von maschinelles Lernen besteht darin, falsche Daten in die Trainingsdatenbank einzugeben, was dazu führt, dass ein Fahrzeug eine Geschwindigkeitsbegrenzung anstelle eines Stoppschilds sieht.
Die Entwicklung dieser Art von gegnerischen Angriffen zielt nun auf generative KI ab, beispielsweise mit Datenvergiftung.
Wer haftet bei unsachgemäßer Nutzung von Generationen aus diesen Modellen?
Die Zukunft der Fortschritte in der generativen KI hängt von der allgemeinen Fähigkeit der Gesellschaft (Regierungen, Bürger, Unternehmen, NGOs usw.) ab, sich verantwortungsvoll in diesen Neulandgebieten zurechtzufinden.
Der verantwortungslose Umgang mit „generativen Smartphones“ wirft ethische und rechtliche Fragen zur Verantwortung der Modellbauer und der Unternehmen, die sie der breiten Öffentlichkeit zugänglich machen, auf.
Sicherlich gibt es Tools wie z Deepware-Scanner oder Microsoft Video Authenticator um Videos zu analysieren und zu versuchen, Anzeichen von Manipulation zu erkennen. Während Plattformen Erkennungstools direkt in ihre Moderationssysteme integrieren können, ist diese Erkennung noch alles andere als zuverlässig.
Mehr lesen: Können wir Deepfakes automatisch erkennen?
Die Unterscheidung akzeptabler Deepfakes, die das Recht des Herkunftslandes des Nutzers respektieren, ohne den Rückgriff auf Zensur, scheint eine unüberwindbare Herausforderung, wenn nicht sogar unmöglich, zu sein. Im Wettbewerbsumfeld ist die Vorsicht von Timothy Cook, CEO von apple, iphone-gaming/“ rel=“nofollow noopener“ target=“_blank“ data-ylk=“slk:qui entend entrer dans le jeu quand les questions éthiques seront mieux défrichées;elm:context_link;itc:0″ class=“link „>Wer will mitspielen, wenn die ethischen Fragen besser geklärt sind?, ist lobenswert. Die Geschichte wird zeigen, ob Ethik und Verantwortung in unseren turbulenten Zeiten Schlüsselfaktoren für den Erfolg sind.
Die Originalversion dieses Artikels enthielt keine Angaben. Veröffentlichen Sie den Süden La Konversation, eine Nachrichtenseite gemeinnützige Organisation zum Austausch von Ideen zwischen akademischen Experten und der breiten Öffentlichkeit.
Mehr lesen:
