Ziel der Initiative ist es, sowohl den Bedarf an Gesundheitserziehung als auch den Personalmangel im Gesundheitswesen weltweit anzugehen.
Der Weltgesundheitsorganisation (WER) hat sich in das Reich von gewagt künstliche Intelligenz (KI) durch Einführung SARAH, der intelligente KI-Ressourcenassistent für die Gesundheit. SARAH ist eine virtuelle Gesundheitshelferin, die über einen menschenähnlichen Avatar grundlegende Gesundheitsinformationen bereitstellen soll. Es ist rund um die Uhr in Betrieb und kommuniziert in acht Sprachen zu Themen wie psychische Gesundheit, Tabakkonsum und gesunde Ernährung. Ziel der Initiative ist es, sowohl den Bedarf an Gesundheitserziehung als auch den Personalmangel im Gesundheitswesen weltweit anzugehen.
Allerdings weist die WHO darauf hin, dass sich SARAH noch in einem frühen Stadium befindet und möglicherweise nicht immer genaue Antworten liefert. Einige der KI-Schulungen von SARAH sind veraltet, was gelegentlich zu Fehlinformationen oder bizarren Antworten führt, die in der KI-Terminologie als „Halluzinationen“ bezeichnet werden. Im Gegensatz zu Diagnosetools wie WebMD oder google ist SARAH so programmiert, dass es sich strikt an Themen hält, die in den Zuständigkeitsbereich der WHO fallen, und vermeidet die Erörterung spezifischer Medikamente oder medizinischer Erkrankungen, die außerhalb ihres Zuständigkeitsbereichs liegen. Stattdessen werden Benutzer häufig auf die Website der WHO weitergeleitet oder die Konsultation eines Gesundheitsdienstleisters empfohlen.
Ramin Javan, Radiologe und Forscher an der George Washington University, erkennt die Grenzen von SARAH an und weist auf den Mangel an Tiefe hin. Allerdings sieht er darin einen vorsichtigen Ansatz, um in der ersten Entwicklungsphase von SARAH keine Grenzen zu überschreiten.
Die WHO betont, dass SARAH bestehende Gesundheitsressourcen ergänzen soll, indem es genaue Informationen zur öffentlichen Gesundheit bereitstellt und eine gesunde Lebensweise fördert. Die Agentur bittet um Feedback zur Verbesserung der Funktionalität von SARAH und zur Erkundung möglicher Anwendungen in gesundheitlichen Notsituationen und betont, dass SARAH noch in Arbeit ist.
In einigen Fällen kann es sein, dass SARAH überhaupt keine Antwort gibt. Wenn ihr konkrete Fragen gestellt werden, etwa wo man in Washington, D.C. eine Mammographie durchführen lassen kann, bleibt SARAH möglicherweise unbeantwortet. Dies ist in den frühen Stadien der KI-Entwicklung keine Seltenheit, wie eine Studie des Vanderbilt University Medical Center zeigt, in der Fälle falscher Reaktionen ähnlicher KI-Modelle festgestellt wurden.
Bei der Interaktion von SARAH mit den Benutzern wird deren Mimik über Computerkameras in 30-Sekunden-Intervallen erfasst und die Aufzeichnungen anschließend gelöscht, um die Anonymität zu wahren. Benutzer haben die Möglichkeit, ihre Fragen im Rahmen einer Umfrage zu teilen, um die Leistung von SARAH zu verbessern, wobei die gesammelten Daten zum Schutz der Privatsphäre anonymisiert werden. Allerdings birgt die Verwendung von Open-Source-Daten wie ChatGPT potenzielle Sicherheitsrisiken, einschließlich der Anfälligkeit für Cyberangriffe oder Datenschutzverletzungen. Die WHO versichert den Benutzern, dass die anonymen Sitzungen von SARAH diese Risiken mindern.
Die Zusammenarbeit der WHO mit Soul Machines Ltd., dem Entwickler der Avatare von SARAH, zielt darauf ab, die Leistung von SARAH mithilfe von GPT-Daten zu verfeinern. Ethische Überlegungen wie Datentransparenz und Benutzersicherheit sind ein wesentlicher Bestandteil der Entwicklung gesundheitsbezogener KI-Modelle, wie in den Ethikleitlinien der WHO hervorgehoben, die Regierungspartnern vorgelegt werden.
Während SARAH derzeit als weißer Avatar erscheint, zeigt die WHO Offenheit für eine Aktualisierung ihres Erscheinungsbilds als Reaktion auf Benutzerpräferenzen. Die geschlechtsneutrale Reaktion von SARAH unterstreicht ihre Rolle als digitaler Gesundheitsförderer, der der Unterstützung bei gesundheitsbezogenen Fragen Vorrang vor der persönlichen Identität einräumt.
