Horten Chatbots Staatsgeheimnisse? Sammelt Chat-GPT vertrauliche Informationen?
Mark Pesce, Zukunftsforscher, Technologieexperte und Kolumnist für Kosmoshat ein neues Buch mit dem Titel angekündigt Erste Schritte mit chatgpt und AI-Chatbots Helfen Sie den Menschen, die „Verkehrsregeln“ für chatGPT und andere Chat-Bots zu verstehen.
„In der Geschichte der Technologie gab es noch nie eine Technologie, die so schnell eingesetzt wurde“, sagte er Kosmos.
„Ich dachte, das Beste, was ich jetzt tun könnte, wäre, den Leuten ein paar Verkehrsregeln zu geben.“
Laut Pesce besteht das Problem darin, dass die Menschen diese Technologien unaufmerksam nutzen, was dazu führt, dass vertrauliche Informationen oder möglicherweise sogar Staatsgeheimnisse an KI-Dienste weitergegeben werden.
Er hat im August eine Crikey-Geschichte hervorgehoben Dies zeigte, dass Mitarbeiter des Verteidigungsministeriums tausende Male auf ChatGPT-Server zugegriffen haben, bevor die Webdomäne schließlich eingeschränkt wurde.
„Organisationen müssen Richtlinien dafür entwickeln, wie, wann und warum Chatbots eingesetzt werden dürfen, dann müssen sie Verfahren entwickeln und dann brauchen sie Protokolle dafür, was passiert, wenn etwas schief geht“, sagt Pesce.
„Organisationen haben derzeit nichts davon.“
Das zweite Problem, auf das Pesce in dem Buch eingeht, ist, dass Chatbots einfach nicht sehr gut darin sind, die Wahrheit zu sagen.
„Der andere Grund, warum ich das Buch geschrieben habe, ist, dass diese Dinge ihrem Wesen nach nicht in der Lage sind, Konfabulationen von der Wahrheit zu unterscheiden“, sagt Pesce.
„Wie können Sie feststellen, ob ein KI-Chatbot eine wahre Antwort zurückgibt oder nicht, wenn Sie nicht in Ihrem Fachgebiet tätig sind?“
Während Pesce beide Probleme bereits als große Probleme ansieht, versuchen Unternehmen wie Microsoft und google derzeit, sie umzusetzen Chatbots in möglichst viele ihrer Programme integrierenDaher wird dies erst in nicht allzu ferner Zukunft zu einem viel größeren Problem werden.
„Das sind sehr leistungsstarke, wunderbare Tools, aber denken Sie zweimal darüber nach, bevor Sie Daten mit ihnen teilen“, sagt Pesce.
„Wenn es sich um eine persönliche, private oder kommerzielle Angelegenheit handelt – wenn es sich um etwas handelt, von dem Sie nicht möchten, dass es von einem Dach aus geschrien wird – drücken Sie wahrscheinlich nicht die Eingabetaste.“
Sie können das Buch von Mark Pesce vorbestellen Erste Schritte mit ChatGPT und KI-Chatbots: Eine Einführung in generative KI-Tools Hier.
Explodieren die Batterien von Elektroautos? Sollte ich mich um meinen BMI kümmern? Holen Sie sich die Fakten, die Sie wirklich wissen möchten. Hör jetzt zu.
