Für Menschen, die es gewohnt sind, online nach medizinischen Informationen zu suchen, ist die Nutzung künstlicher Intelligenz möglicherweise eher ein Sprung als ein Sprung. Aber seien Sie gewarnt: Eine neue Studie der Long Island University ergab, dass chatgpt drei Dutzend Fragen zu Medikamenten nur in einem Viertel der Fälle richtig oder vollständig beantwortete.
Die Fragen, die tatsächlich an den Arzneimittelinformationsdienst des College of Pharmacy der Universität gestellt wurden, lassen darauf schließen, dass Dr. ChatGPT viel zu wünschen übrig lässt.
Die Ergebnisse wurden letzte Woche auf der Jahrestagung der American Society for Health-Systems Pharmacists in Anaheim, Kalifornien, vorgestellt.
Als CNN berichtetelieferten die Anfragen „oft ungenaue – oder sogar gefährliche – Antworten“.
Von den 29 Fragen, die der Chatbot übersehen hatte, gaben die Forscher an, dass die künstliche Intelligenz 11 nicht direkt beantwortet habe und 10 ungenau seien. Ein Dutzend der Antworten waren ebenfalls unvollständig.
Manchmal war die Reaktion der künstlichen Intelligenz gefährlich, beispielsweise als ChatGPT gefragt wurde, ob es in Ordnung sei, das antivirale COVID-19-Medikament Paxlovid zusammen mit dem Blutdruckmedikament Verapamil einzunehmen. Obwohl ChatGPT sagte, dass es keine negativen Auswirkungen geben würde, wurden unerwünschte Wechselwirkungen dokumentiert – darunter ein erheblicher Blutdruckabfall, der zu Ohnmacht und Schwindel führte.
„Die Verwendung von ChatGPT zur Beantwortung dieser Frage würde einen Patienten dem Risiko einer unerwünschten und vermeidbaren Arzneimittelwechselwirkung aussetzen“, sagte Studienmitautorin Sara Grossman, außerordentliche Professorin für Pharmaziepraxis an der Long Island University, gegenüber CNN.
Die Forscher baten ChatGPT, wissenschaftliche Referenzen für ihre Antworten bereitzustellen. Dies gelang nur bei etwa 20 % von ihnen – und jeder von ihnen enthielt gut formatierte gefälschte Referenzen. Frühere Studien haben gezeigt, dass die KI „sogar die Namen tatsächlicher Autoren umfasst, die in Fachzeitschriften veröffentlicht haben“, wie z Firstpost.com gemeldet.
Laut CNN ist „die Studie der Long Island University nicht die erste, die Bedenken hinsichtlich der fiktiven Zitate von ChatGPT äußert.“ Vorherige Forschung hat außerdem dokumentiert, dass ChatGPT bei medizinischen Fragen betrügerische Fälschungen wissenschaftlicher Referenzen erstellen und sogar die Namen echter Autoren mit früheren Veröffentlichungen in wissenschaftlichen Fachzeitschriften auflisten kann.“
Auch in dieser Studie machte der Chatbot einen potenziell gefährlichen Fehler. Als ich gebeten wurde, die Dosen eines Muskelrelaxans, das in die Wirbelsäule injiziert wird, umzurechnen, lag die Softwareberechnung um den „Faktor 1.000“ daneben.
OpenAI, das ChatGPT entwickelt hat, fordert Benutzer auf, sich bei medizinischer Beratung oder „Diagnose- oder Behandlungsdiensten für schwerwiegende Erkrankungen“ nicht auf die künstliche Intelligenz zu verlassen.
Die Empfehlung wird von Gesundheitsexperten und anderen bestätigt.
„KI-basierte Tools haben das Potenzial, sowohl klinische als auch betriebliche Aspekte der Pflege zu beeinflussen“, sagte Gina Luchen, Apothekerin und Direktorin für digitale Gesundheit und Daten bei der American Society of Health-System Pharmacists Fox-Geschäft. „Apotheker sollten wachsame Hüter der Patientensicherheit bleiben, indem sie die Eignung und Gültigkeit spezifischer KI-Tools für medikamentenbezogene Anwendungen bewerten und Patienten weiterhin über vertrauenswürdige Quellen für medizinische Informationen aufklären.
„Den Ergebnissen der Studie zufolge sollte jeder, der darüber nachdenkt, ChatGPT für arzneimittelbezogene Informationen zu nutzen – einschließlich Patienten und medizinischem Fachpersonal – mit Vorsicht vorgehen. Sie sollten für medizinische Ratschläge direkt mit Fachleuten sprechen, unabhängig davon, ob sie die kostenpflichtige oder kostenlose Version mit Zugriff auf Echtzeitdaten nutzen.“ Firstpost.com gemeldet.
ChatGPT erfreut sich anderswo großer Beliebtheit. Entsprechend CNBC„ChatGPT hat als am schnellsten wachsende Verbraucher-App aller Zeiten Rekorde gebrochen und hat mittlerweile rund 100 Millionen aktive Nutzer pro Woche mehr als 92 % Laut OpenAI nutzen die Fortune-500-Unternehmen die Plattform. Anfang des Jahres investierte Microsoft weitere 10 Milliarden US-Dollar in das Unternehmen, was laut PitchBook die größte KI-Investition des Jahres darstellte, und OpenAI befindet sich Berichten zufolge in Gesprächen über den Abschluss eines Deals, der zu einer solchen Investition führen würde Bewertung von 86 Milliarden US-Dollar.“
Was die Diagnose betrifft, so wurde eine im August in der veröffentlichten Studie veröffentlicht Zeitschrift für medizinische Internetforschung fanden heraus, dass ChatGPT bei der allgemeinen Entscheidungsfindung eine Genauigkeit von etwa 72 % hatte, „von der Erstellung möglicher Diagnosen bis hin zur Erstellung endgültiger Diagnosen und Entscheidungen zum Pflegemanagement“, so Mass General Brigham Pressemitteilung.
