Der Einsatz von chatgpt im Gesundheitswesen ist besorgniserregend | Bildnachweis: © Daniel CHETRONI – © Daniel CHETRONI – stock.adobe.com.

Es macht mir immer Spaß, alle Artikel zu lesen Zeitgenössische Pädiatrie® jährliche Tech-Ausgabe. Es ist erstaunlich, wie schnell sich maschinelles Lernen (ML) und künstliche Intelligenz (KI) in den Gesundheitsversorgungssystemen etabliert haben. In einem Artikel von Matthew Fradkin, MD1, Künstliche Intelligenz im Praxisalltag nutzen wirft viele faszinierende Fragen im Zusammenhang mit Fortschritten in der KI in elektronischen Krankenakten (EMR) des Gesundheitswesens und der Analyse von Daten auf pädiatrischen Intensivstationen und Notaufnahmen auf. Trotz aller Fortschritte bestehen jedoch weiterhin große Bedenken. Eine Sorge, die ich mit Fradkin teile, ist der Einsatz von ChapGPT in medizinischen und pflegerischen Berufen. Derzeit ist ChatGPT keine verlässliche Quelle für pflegerische oder medizinische Entscheidungen, wodurch das Potenzial steigt, nicht nur unseren pädiatrischen Patienten, sondern allen Patienten zu schaden. Unerfahrene Krankenpfleger oder Krankenpfleger (Nurse Practitioner, NPs) oder NPs, die glauben, dass die Quelle korrekt ist und sich bei pflegerischen und fortgeschrittenen Praxisentscheidungen auf ChatGPT verlassen, setzen ihre Patienten einem hohen Risiko unbeabsichtigter Schäden aus.

Aufklärung von Krankenschwestern und Krankenpflegern über ChatGPT

Die Ausbildung von Krankenpflegestudenten und NP-Studierenden im Grundstudium basiert auf den Grundsätzen der Durchführung einer organisierten Literaturrecherche in zuverlässigen, hochwertigen Datenbanken (z. B. CINHAL, Pubmed, Medline usw.), um die besten verfügbaren Erkenntnisse für das Pflegemanagement zu erhalten. Aber was passiert, wenn eine Quelle wie ChatGPT verwendet wird und das erhaltene Material nicht evidenzbasiert ist und aus falschen Informationen aus nicht vorhandenen Referenzen besteht? Das offensichtliche Ergebnis ist, dass bei pädiatrischen Patienten das Risiko eines Behandlungsversagens besteht. Dies ist nicht das Ziel einer Krankenschwester, einer Pflegekraft oder eines Gesundheitsdienstleisters. Ebenso wie die Ausbildung von Ärzten werden auch Krankenschwestern und Pflegekräfte ausgebildet „Um keinen Schaden anzurichten.“ Die Verwendung falscher Informationen in einem Pflegemanagementplan für einen Patienten kann ernsthaften Schaden anrichten.

Bei vielen Diagnosen stützen wir uns bei unseren Entscheidungen auf die Leitlinien für die klinische Praxis (Clinical Practice Guidelines, CPGs). Als Gesundheitsdienstleister verlassen wir uns auf CPGs als vertrauenswürdige Quelle für die klinische Praxis. Die Belege für CPGs werden anhand zahlreicher Forschungsstudien klar dargestellt, von Experten auf diesem Gebiet analysiert, diskutiert und diskutiert und mit allen unterstützenden Belegen und Referenzen verbreitet. Auch nach Erhalt eines neuen CPG sollte die Umsetzung des CPG erst erfolgen, nachdem das CPG für den Einsatz in bestimmten klinischen Praxisumgebungen im Hinblick auf die betreuten Patientengruppen analysiert wurde. Einige CPGs sind beispielsweise nur für gesunde Kinder bestimmt und können nicht für Kinder mit chronischen Erkrankungen eingesetzt werden. Wäre ChatGPT auf Nachfrage in der Lage, diese kritischen Informationen zu analysieren? Daher ist es sehr besorgniserregend, ChatGPT zu bitten, eine Diagnose und Behandlungsempfehlungen in einem CPG zu analysieren, mit der Absicht, die Informationen in der klinischen Praxis zu nutzen. Eine Person ist möglicherweise nicht mit dem Thema vertraut und verwendet die von ChatGPT bereitgestellten Informationen, ohne zu wissen, ob die Informationen korrekt oder ungenau sind.

Nachdenklich Es müssen Richtlinien entwickelt werden, um die Sicherheit zu gewährleisten

Viele Personen sind sich möglicherweise nicht der unzuverlässigen Daten bewusst, die in der Antwort eines ChatGPT auf gestellte Fragen enthalten sein können. Daher müssen in allen medizinischen und pflegerischen Berufsverbänden, Praxen und Universitäten Diskussionen geführt und Weiterbildungsprogramme für Gesundheitsfachkräfte zur Festlegung von Richtlinien gefördert werden. Über das Produkt und den Einsatz im Bildungsbereich gehen die Meinungen auseinander. Aber gemeinsam müssen wir alle Facetten von KI-Produkten und insbesondere ChatGPT berücksichtigen. Es müssen Richtlinien entwickelt werden, die die Sicherheit nicht nur unserer pädiatrischen Patienten, sondern aller Patientengruppen gewährleisten.

Klicken Sie hier, um mehr aus der Septemberausgabe 2023 von Contemporary Pediatrics zu erfahren.

Referenz:

1. Fradkin, M. Einsatz künstlicher Intelligenz in der täglichen Praxis. Zeitgenössische Pädiatrie. 2023; 39(8):27-39.