Eine neue Studie ergab, dass die kostenlose Version von chatgpt möglicherweise ungenaue oder unvollständige Antworten – oder gar keine Antworten auf Fragen zu Medikamenten – liefert, was Patienten, die den viralen Chatbot von OpenAI verwenden, potenziell in Gefahr bringen könnte.
Forschungsapotheker stellten 39 Fragen an das kostenlose ChatGPT und stellten fest, dass nur 10 der Antworten auf der Grundlage der von ihnen festgelegten Kriterien zufriedenstellend waren.
Laut der Studie gingen die Antworten von ChatGPT auf die anderen 29 anderen drogenbezogenen Fragen nicht direkt auf die gestellte Frage ein, waren ungenau, unvollständig oder beides.
Die Autorin der Studie, Sara Grossman, wies darauf hin, dass die Studie darauf hinweist, dass Patienten und medizinisches Fachpersonal vorsichtig sein sollten, wenn sie sich für Arzneimittelinformationen auf ChatGPT verlassen und alle Antworten des Chatbots bei vertrauenswürdigen Quellen wie Ärzten, Apothekern oder staatlichen Websites mit Arzneimittelinformationen überprüfen sollten.
Die Ergebnisse der ChatGPT-Studie
Die Studie stützte sich auf reale Fragen, die zwischen Januar 2022 und April 2023 dem Arzneimittelinformationsdienst des University College of Pharmacy von Long Island gestellt wurden.
Im Mai haben die Apotheker 45 Fragen recherchiert und beantwortet. Diese Fragen und Antworten wurden von einem zweiten Forscher überprüft und als Standard für die Genauigkeit im Vergleich zu ChatGPT verwendet. Sechs Fragen wurden von den Forschern ausgeschlossen, da es keine Literatur gab, die datenbasierte Antworten liefern konnte.
- ChatGPT hat 11 Fragen nicht direkt beantwortet.
- Auf 10 Fragen wurden ungenaue Antworten gegeben und auf weitere 12 Fragen wurden falsche oder unvollständige Antworten gegeben.
- Für jede gestellte Frage forderten die Forscher ChatGPT auf, Referenzen zur Untermauerung seiner Antworten anzugeben, damit die bereitgestellten Antworten überprüft werden können.
- ChatGPT lieferte jedoch nur in acht Antworten Referenzen und enthielt jeweils Quellen, die nicht existieren.
Eine der an ChatGPT gestellten Fragen war, ob eine Wechselwirkung zwischen dem antiviralen Medikament Paxlovid und dem blutdrucksenkenden Medikament Verapamil besteht. ChatGPT gab an, dass keine Wechselwirkungen mit Medikamenten bestanden, obwohl die Kombination in Wirklichkeit zu einer übermäßigen Senkung des Blutdrucks führt.
Ohne Kenntnis dieser Wechselwirkung können bei Patienten unerwünschte und vermeidbare Nebenwirkungen auftreten. Auch wenn Paxlovid erstmals im Dezember 2021 zugelassen wurde, Monate nach der Datensperre für die kostenlose Version von ChatGPT im September 2021, nennt die Studie dies immer noch ein Problem, da viele Patienten nicht wissen, dass die Daten veraltet sind, was sie anfällig dafür macht, ungenaue Informationen zu erhalten ChatGPT.
Was du wissen solltest
ChatGPT gilt seit seiner Einführung im Jahr 2022 als die am schnellsten wachsende Verbraucher-Internet-App aller Zeiten. Sie führte zum Durchbruch der künstlichen Intelligenz. Laut einer Analyse verzeichnete ChatGPT im Oktober weltweit rund 1,7 Milliarden Besuche.
Die kostenlose Version des ChatGPT ist auf Daten bis September 2021 beschränkt, was bedeutet, dass wichtige Informationen in der sich ständig verändernden medizinischen und pharmazeutischen Landschaft fehlen könnten.
Es ist unklar, wie genau die kostenpflichtige Version von ChatGPT nun Fragen zu Medikamenten beantworten kann, da sie Anfang des Jahres damit begonnen hat, im Internet in Echtzeit zu surfen.
Die Studie konzentrierte sich mehr auf die kostenlose Version von ChatGPT, um zu reproduzieren, was ein größerer Teil der Allgemeinbevölkerung nutzt und darauf zugreifen kann.
