Die dunkle Seite von chatgpt
Glenn Gow(Dieser Artikel ist Teil eines Serie zum Thema Künstliche Intelligenz für Vorstandsmitglieder und leitende Angestellte.)
Generative KI, insbesondere große Sprachmodelle (LLMs) wie ChatGPT, ist das bedeutendste Endprodukt, das seit Beginn der Forschung im Bereich der künstlichen Intelligenz eingesetzt wird – zumindest im Hinblick auf ihren Beitrag zur wirtschaftlichen Produktivität.
Wie bedeutsam? McKinsey schätzt, dass generative KI bis zu 20 % beitragen könnte 7,9 Billionen Dollar jährlich zur Weltwirtschaft. Das ist gleichwertig zu den Beiträgen Kanadas, Großbritanniens, Russlands und Österreichs zusammen.
Trotz ihres spektakulären Potenzials ist die generative KI jedoch nicht ohne Mängel. Tatsächlich könnte man argumentieren, dass seine Ankunft vorerst eher für Chaos gesorgt hat. Werfen wir also 10 Monate nach der Veröffentlichung von ChatGPT 4 einen Blick auf die größten Probleme der generativen KI und einige Ideen, wie Sie diese überwinden können.
1. Genauigkeit
Wir haben alle von ChatGPTs gehört Halluzinationsproblem. LLMs sind darauf ausgelegt, probabilistische Antworten aus Trainingsdaten zu liefern, und können bei der Bereitstellung von Antworten etwas zu eifrig sein. Anstatt „Ich weiß nicht“ zu sagen, erfinden sie bekanntermaßen Dinge, die eine Büchse der Pandora auslösen, von Markenschäden bis hin zu Verstößen gegen Vorschriften.
Der Einbau thematischer und ethischer Leitplanken in generative KI-Modelle kann hilfreich sein. So können Sie das Training eines generativen KI-Modells mit Wissensdatenbanken ergänzen, die speziell auf Ihre Unternehmensdomänen zugeschnitten sind. Ich glaube jedoch, dass Unternehmen auf absehbare Zeit viel besser darin werden müssen, Eingabeaufforderungen präziser zu gestalten und einen Menschen auf dem Laufenden zu halten, der alles, was LLMs produzieren, noch einmal überprüft.
2. Voreingenommenheit
Das Problem der Voreingenommenheit, die sich in die KI einschleicht, ist eine alte Nachricht (siehe Artikel „Wie KI schrecklich schief gehen kann: 5 Vorurteile, die zum Scheitern führen“). Doch die rasante Verbreitung der generativen KI hat diese Besorgnis stärker verstärkt, als die meisten Menschen für möglich gehalten hätten. Anstatt sich jetzt Sorgen darüber zu machen, dass sich hier und da ein wenig Voreingenommenheit einschleichen könnte, müssen sich Unternehmensleiter darum kümmern, dass diese Voreingenommenheit ihre gesamte Unternehmenskultur übernimmt.
Bedeutet die Benutzerfreundlichkeit von Programmen wie ChatGPT, dass unsere Vielfalt an Stimmen aus Rücksicht auf einen einzelnen Standpunkt gedämpft wird? Kritiker haben vorgeworfen, dass die Software an einem leidet politische Voreingenommenheit „geweckt“.dass es fortbesteht Geschlechtervorurteileund dass es von Natur aus so ist rassistisch voreingenommen.
Um sicherzustellen, dass generative KI keine toxischen Standpunkte in Ihrem Unternehmen aufrechterhält, muss Ihr Entwicklungsteam in engem Kontakt mit dem Problem stehen und daran arbeiten, Ihre KI mit Ihren eigenen Unternehmens- und menschlichen Werten zu verbinden.
3. Lautstärke
Wir ertranken bereits in Informationen, bevor es so einfach wurde, mit generativer KI neue Inhalte zu erstellen. E-Mails, E-Books, Webseiten, Social-Media-Beiträge und andere erstellte Werke. Sogar die Zahl der Bewerbungen ist sprunghaft angestiegen, was auf die Möglichkeit zurückzuführen ist, mit KI schnell individuelle Lebensläufe und Anschreiben zu erstellen. Die schiere Menge all dieser neuen Informationen zu verwalten, ist schwierig.
Wie nutzen Sie den Berg an Vermögenswerten, den Ihr Unternehmen schafft? Wie speichert man all diese Informationen? Wie bleiben Sie bei der Datenanalyse und Zuordnung von Marketingressourcen auf dem Laufenden? Wie beurteilen Sie die Vorzüge von allem und jedem, wenn die Inhalte ausschließlich KI-generiert sind?
Um Verwirrung und Burnout bei Mitarbeitern zu vermeiden, müssen Sie die richtigen Teams, Technologien und Taktiken organisieren, um jetzt den Überblick zu behalten, denn von jetzt an wird das Volumen nur noch zunehmen.
4. Cybersicherheit
Generative KI hat die Möglichkeiten böswilliger Akteure, neuartige Cyberangriffe zu starten, radikal erweitert. Es kann verwendet werden, um Code auf Schwachstellen zu analysieren und Malware zu schreiben, um diese auszunutzen. Es kann verwendet werden, um Deep-Fake-Videos und Sprachklone für Betrug und Betrug zu erstellen virtuelle Entführung. Es kann überzeugende E-Mails zur Unterstützung von Phishing-Angriffen schreiben und vieles mehr. Darüber hinaus kann mit Hilfe von KI geschriebener Code mehr sein anfällig für Hackerangriffe als von Menschen erstellter Code.
In diesem Fall ist die beste Reaktion, Feuer mit Feuer zu bekämpfen. Mithilfe von KI können Sie Ihren Code auf Schwachstellen analysieren, laufende Penetrationstests durchführen und Ihre Verteidigungsmodelle verbessern.
Aber vergessen Sie nicht die größte Schwachstelle im Bereich der Cybersicherheit in Ihrem Unternehmen: den Menschen. Generative KI kann Protokolle der Benutzeraktivität auf der Suche nach gefährlichem Verhalten analysieren. Ihre erste Verteidigungslinie sollte jedoch darin bestehen, Ihre Mitarbeiter so zu schulen, dass sie noch wachsamer als bisher sind.
5. Fragen des geistigen Eigentums
In Klagen von Künstlern, Autoren, Bildagenturen und anderen wird behauptet, dass ihre Daten und Stile geschützt seien midjourney-stable-diffusion-2246770″ target=”_blank” class=”color-link” title=”https://news.artnet.com/art-world/class-action-lawsuit-ai-generators-deviantart-midjourney-stable-diffusion-2246770″ rel=”nofollow noopener noreferrer” data-ga-track=”ExternalLink:https://news.artnet.com/art-world/class-action-lawsuit-ai-generators-deviantart-midjourney-stable-diffusion-2246770″ aria-label=”used without their permission”>ohne deren Erlaubnis verwendet werden generative KI-Software zu trainieren. Unternehmen, die generative KI-Software einsetzen, befürchten, in dieses Debakel verwickelt zu werden.
Wenn generative KI für Sie Werbekampagnenbilder produziert, die unbeabsichtigt die Arbeit eines anderen verletzen, wessen Haftung liegt dann bei Ihnen? Wem gehören überhaupt die Assets, die Sie mithilfe generativer KI erstellen? Bist du es? Die generative KI-Softwareunternehmen? Die KI selbst? Bis jetzt, Das Urteil lautet dass von Menschen mit KI-Unterstützung geschaffene Werke urheberrechtlich geschützt sein können, aber die Die Jury ist noch nicht entschieden zu Patenten.
Mein Rat ist, sicherzustellen, dass Sie die Menschen bei der gesamten Vermögenserstellung auf dem Laufenden halten und dass Ihr Rechtsteam weiterhin seine Sorgfaltspflicht erfüllt, wenn sich die Gesetze schnell weiterentwickeln.
6. Schatten-KI
Laut a Salesforce-Umfrage Von 14.000 Arbeitnehmern in 14 Ländern tut die Hälfte der Unternehmensmitarbeiter, die generative KI-Tools verwenden, dies ohne sanktionierte Zustimmung ihrer Organisationen. In diesem Fall wird es nicht möglich sein, den Geist wieder in die Flasche zu stecken, also erarbeiten Sie am besten Ihre generativen KI-Governance-Richtlinien und etablieren Sie Programme, um den Mitarbeitern beizubringen, wie verantwortungsvoller Umgang aussieht.
Sie müssen auch mit Ihren IT-Führungskräften darüber sprechen, was sie tun, um generative KI-Softwaretools auf Unternehmensgeräten zu entdecken und zu verwalten.
Es gibt immer noch Probleme, die mit generativer KI gelöst werden müssen. Aber Sie müssen sie verwalten, denn wir befinden uns mitten in einem Wandel in der Art und Weise, wie Geschäfte abgewickelt werden, wie kein anderer zuvor.
Gesundheitswesen, Banken, Logistik, Versicherungen, Kundenservice, E-Commerce – es gibt kaum eine Branche, die nicht plötzlich blitzschnellen Störungen durch generative KI ausgesetzt ist. Die Anfälligkeit und Geschwindigkeit von Störungen war noch nie so groß. Diejenigen Unternehmen, die herausfinden, wie sie diese Technologie effektiv nutzen können, werden einen Schwungradeffekt erzeugen, so dass es für ihre schwächelnden Konkurrenten äußerst schwierig sein wird, sich zu erholen. KI muss in diesem Jahr eine Priorität auf Vorstandsebene sein. (Sehen Die KI-Bedrohung: Der Gewinner braucht alles).
Wenn Sie sich dafür interessieren, wie KI die Gewinner und Verlierer in Unternehmen bestimmt, wie Sie KI zum Nutzen Ihres Unternehmens nutzen können und wie Sie KI-Risiken verwalten können, empfehle ich Ihnen, auf dem Laufenden zu bleiben. Ich schreibe und spreche darüber, wie Führungskräfte, Vorstandsmitglieder und andere Führungskräfte KI effektiv nutzen können. Sie können frühere Artikel lesen und über neue benachrichtigt werden, indem Sie hier auf die Schaltfläche „Folgen“ klicken.
