Vergessen Sie Dr. google: Benutzer wenden sich zur Beantwortung medizinischer Fragen an Chatbots mit künstlicher Intelligenz wie chatgpt. Können Sie der KI jedoch so vertrauen wie einem Hausarzt?
Fast ein Ein Drittel von uns (31 %) hofft, dass KI unseren Zugang zur Gesundheitsversorgung verbessern kann, nach Angaben des Office for National Statistics (ONS). Darüber hinaus spielt KI dank ihrer Fähigkeit, Muster zu erkennen – beispielsweise in Röntgenscans – eine große Rolle im Gesundheitswesen und die Regierung investiert bereits Millionen in KI für den NHS.
Aber kann man sich bei der Beantwortung medizinischer Fragen tatsächlich auf ein großes Sprachmodell (LLM) verlassen?
Frühere Untersuchungen haben gezeigt, dass bis zu 39,5 % der medizinischen Fachkräfte darauf hoffen, sich bei medizinischen Entscheidungen auf LLMs wie ChatGPT zu verlassen. Neue Forschungsergebnisse legen jedoch nahe, dass Verbraucher vorsichtig sein sollten, sich bei wichtigen Gesundheitsentscheidungen und Diagnosen nicht auf Bots zu verlassen.
Was hat die neue Studie herausgefunden?
Die Forscher fanden heraus, dass KI-Software wie ChatGPT und Googles Bard – jetzt Gemini – potenziell ungenau sind.
Sie stellten den Chatbots 56 häufige medizinische Fragen und die Antworten wurden von zwei Ärzten überprüft. Die Antworten der KI-Bots waren oft entweder ungenau oder unvollständig.
Etwas mehr als die Hälfte von Bards Antworten waren korrekt (53,6 %), wobei 17,8 % ungenau und 28,6 % teilweise richtig waren.
Bei ChatGPT war etwas mehr als ein Viertel der Antworten korrekt (28,6 %), während 28,6 % ungenau und 42,8 % teilweise korrekt waren.
Dr. Andrei Brateanu von der Cleveland Clinic Foundation in den USA sagte, die Studie zeige, dass KI-Tools nicht als Ersatz für Ärzte eingesetzt werden sollten.
„Sie können als zusätzliche Ressourcen betrachtet werden, die in Kombination mit menschlichem Fachwissen die Gesamtqualität der bereitgestellten Informationen verbessern können“, sagte er.
Wie kann KI Patienten helfen?
Anstelle von LLMs wie ChatGPT sind andere KI-Tools dafür konzipiert, von Ärzten verwendet zu werden, um die Diagnose zu beschleunigen – und nicht als „Ersatz“ für Ärzte aus Fleisch und Blut.
Viele hoffen, dass die Fähigkeit der KI, riesige Datensätze schnell zu durchsuchen, dazu beitragen könnte, Diagnosen zu beschleunigen, neue Medikamente zu entdecken und sogar Patienten leeren Betten zuzuordnen.
Die Fähigkeit der KI, Muster zu erkennen, kann dabei helfen, Patienten zu selektieren oder vorherzusagen, wann Betten auf der Intensivstation verfügbar sein könnten, sagen Befürworter.
Im Vereinigten Königreich hat die Regierung 21 Millionen Pfund investiert, um NHS-Mitarbeitern dabei zu helfen, Patienten mit Schlaganfällen, Krebs und Herzerkrankungen schneller zu diagnostizieren und zu behandeln.
Das Personal wird mit Entscheidungshilfen ausgestattet, die KI-Technologie nutzen, um die Diagnose zu verbessern.
Ein anderes Tool verwendet KI zur Analyse von Röntgenaufnahmen des Brustkorbs, dem am häufigsten zur Diagnose von Lungenkrebs verwendeten Tool, und hilft Ärzten bei der Bewältigung der 600.000 Röntgenaufnahmen des Brustkorbs, die jeden Monat in England durchgeführt werden.
Die Regierung hat zuvor erklärt: „Künstliche Intelligenz verändert bereits die Art und Weise, wie wir Gesundheitsversorgung anbieten, und KI-Tools haben im gesamten NHS bereits einen erheblichen Einfluss darauf, Krankheiten früher zu diagnostizieren, was bedeutet, dass Menschen schneller behandelt werden können.“
