Die kostenlose Version von ChatGPT liefert möglicherweise ungenaue oder unvollständige Antworten – oder überhaupt keine Antworten – auf Fragen im Zusammenhang mit Medikamenten, was möglicherweise Patienten gefährden könnte, die den viralen Chatbot von OpenAI verwenden, wie eine am Dienstag veröffentlichte neue Studie nahelegt.

Apotheker bei Long Island University Wer im Mai 39 Fragen an den kostenlosen ChatGPT stellte, kam zu dem Schluss, dass nur 10 der Antworten des Chatbots anhand der von ihm festgelegten Kriterien „zufriedenstellend“ waren. Die Antworten von ChatGPT auf die 29 anderen drogenbezogenen Fragen gingen nicht direkt auf die gestellte Frage ein oder waren ungenau, unvollständig oder beides, heißt es in der Studie.

Laut der Hauptautorin Sara Grossman, einer außerordentlichen Professorin für Pharmaziepraxis an der LIU, weist die Studie darauf hin, dass Patienten und medizinisches Fachpersonal vorsichtig sein sollten, wenn sie sich bei Arzneimittelinformationen auf ChatGPT verlassen, und alle Antworten des Chatbots bei vertrauenswürdigen Quellen überprüfen sollten. Für Patienten kann dies ihr Arzt oder eine staatliche Website mit Informationen zu Arzneimitteln sein, beispielsweise die der National Institutes of Health Medline PlusSie sagte.

Grossman sagte, die Forschung benötige keine Finanzierung.

ChatGPT galt weithin als die am schnellsten wachsende Verbraucher-Internet-App aller Zeiten, nachdem es vor etwa einem Jahr auf den Markt kam und ein Jahr des Durchbruchs für künstliche Intelligenz einläutete. Aber im Laufe der Zeit hat der Chatbot auch Bedenken zu folgenden Themen geäußert: Betrug, geistiges Eigentum, google-bard-ai-chatbots-medical-racism-black-patients-health-care/” class=”jsx-3336650016″>Diskriminierung und Fehlinformationen.

Mehrere Studien haben im Juli ähnliche Fälle fehlerhafter Antworten von ChatGPT und der Federal Trade Commission hervorgehoben eine Untersuchung eingeleitet in die Genauigkeit und den Verbraucherschutz des Chatbots.

Laut Angaben verzeichnete ChatGPT im Oktober weltweit rund 1,7 Milliarden Besuche eine Analyse. Es liegen keine Daten darüber vor, wie viele Nutzer dem Chatbot medizinische Fragen stellen.

Besonders hervorzuheben ist die kostenlose Version von ChatGPT begrenzt bis September 2021 Datensätze zu verwenden – was bedeutet, dass es in der sich schnell verändernden medizinischen Landschaft möglicherweise an wichtigen Informationen mangelt. Es ist unklar, wie genau die kostenpflichtigen Versionen von ChatGPT, die Anfang des Jahres mit Echtzeit-Internetsurfen begannen, jetzt Fragen zu Medikamenten beantworten können.

Grossman räumte ein, dass die Möglichkeit bestehe, dass eine kostenpflichtige Version von ChatGPT zu besseren Studienergebnissen geführt hätte. Sie sagte jedoch, dass sich die Forschung auf die kostenlose Version des Chatbots konzentrierte, um zu reproduzieren, was ein größerer Teil der Bevölkerung nutzt und auf den er zugreifen kann.

Sie fügte hinzu, dass die Studie nur „eine Momentaufnahme“ der Leistung des Chatbots von Anfang dieses Jahres lieferte. Es sei möglich, dass sich die kostenlose Version von ChatGPT verbessert habe und bessere Ergebnisse liefern würde, wenn die Forscher jetzt eine ähnliche Studie durchführen würden, fügte sie hinzu.

Die Studie verwendete reale Fragen, die dem College of Pharmacy der Long Island University gestellt wurden Drogeninformationsdienst von Januar 2022 bis April dieses Jahres.

Im Mai recherchierten und beantworteten Apotheker 45 Fragen, die dann von einem zweiten Forscher überprüft und als Standard für die Genauigkeit im Vergleich zu ChatGPT verwendet wurden. Die Forscher schlossen sechs Fragen aus, da keine Literatur für eine datengesteuerte Antwort verfügbar war.

Der Studie zufolge hat ChatGPT 11 Fragen nicht direkt beantwortet. Der Chatbot gab außerdem auf 10 Fragen ungenaue Antworten und auf weitere 12 falsche oder unvollständige Antworten.

Für jede Frage baten die Forscher ChatGPT, in seiner Antwort Referenzen anzugeben, damit die bereitgestellten Informationen überprüft werden konnten. Allerdings lieferte der Chatbot nur in acht Antworten Referenzen, und jede enthielt Quellen, die nicht existierten.

ChatGPT wurde gefragt, ob zwischen der antiviralen Covid-Pille Paxlovid von Pfizer und dem blutdrucksenkenden Medikament Verapamil eine Arzneimittelwechselwirkung besteht – oder ob ein Medikament bei gemeinsamer Einnahme die Wirkung eines anderen beeinträchtigt.

ChatGPT gab an, dass für diese Arzneimittelkombination keine Wechselwirkungen gemeldet wurden. Tatsächlich haben diese Medikamente das Potenzial, den Blutdruck übermäßig zu senken, wenn sie zusammen eingenommen werden.

„Ohne Kenntnis dieser Wechselwirkung kann ein Patient unter einer unerwünschten und vermeidbaren Nebenwirkung leiden“, sagte Grossman.

Grossman wies darauf hin, dass die US-Aufsichtsbehörden Paxlovid erstmals im Dezember 2021 zugelassen haben. Das ist ein paar Monate vor der Datensperre für die kostenlose Version von ChatGPT im September 2021, was bedeutet, dass der Chatbot Zugriff auf begrenzte Informationen über das Medikament hat.

Dennoch bezeichnete Grossman dies als besorgniserregend. Viele Paxlovid-Benutzer wissen möglicherweise nicht, dass die Daten veraltet sind, wodurch sie anfällig dafür sind, ungenaue Informationen von ChatGPT zu erhalten.

Bei einer anderen Frage wurde ChatGPT gefragt, wie man Dosen zwischen zwei verschiedenen Formen des Medikaments Baclofen, das Muskelkrämpfe behandeln kann, umrechnen kann. Die erste Form war intrathekal oder bei der das Medikament direkt in die Wirbelsäule injiziert wurde, und die zweite Form war oral.

Grossman sagte, ihr Team habe herausgefunden, dass es keine nachgewiesene Umwandlung zwischen den beiden Formen des Medikaments gebe und dass es in den verschiedenen veröffentlichten Fällen, die sie untersuchten, Unterschiede gebe. Sie sagte, es sei „keine einfache Frage“.

ChatGPT stellte jedoch nur eine Methode zur Dosisumrechnung als Reaktion bereit, die nicht durch Beweise gestützt wurde, zusammen mit einem Beispiel für die Durchführung dieser Umrechnung. Grossman sagte, das Beispiel habe einen schwerwiegenden Fehler: ChatGPT habe die intrathekale Dosis fälschlicherweise in Milligramm statt in Mikrogramm angezeigt

Jeder Mediziner, der diesem Beispiel folgt, um eine angemessene Dosisumrechnung zu ermitteln, „würde am Ende eine Dosis erhalten, die 1.000-mal niedriger ist, als sie sein sollte“, sagte Grossman.

Sie fügte hinzu, dass bei Patienten, die eine weitaus geringere Dosis des Arzneimittels erhalten, als sie sollten, ein Entzugseffekt auftreten könnte, der zu Halluzinationen und Krampfanfällen führen kann