Menschen können mit der Komplexität um uns herum besser umgehen als KI. Solange Sie es nicht beschreiben können, können Sie es nicht automatisieren.

chatgpt hat viele Menschen im Gesundheitswesen aufgerüttelt und bietet Möglichkeiten für die klinische Anwendung, die sowohl verlockend als auch leicht beunruhigend sind.

Glücklicherweise gibt es in Australien einheimische KI-Sicherheitsexperten wie Professor Farah Magrabi, die die Bemühungen um regulatorische und ethische Rahmenbedingungen vorantreiben, um die Chancen der KI zu maximieren und gleichzeitig die Risiken zu mindern.

Professor Magrabi promovierte in KI, Jahre bevor ChatGPT es zu einem heißen Thema machte. Heute ist sie Professorin für Biomedizin und Gesundheitsinformatik am Australian Institute of Health Innovation der Macquarie University und maßgeblich an der Australian Alliance for Artificial Intelligence in Healthcare beteiligt.

Laut Professor Magrabi besteht für KI eine große Chance, die Gesundheitsversorgung zu verbessern, der Einsatz verbrauchertauglicher Technologien – wie ChatGPT – sei jedoch ein Problem.

Was hat dich beschäftigt?

Letzten Monat war ich Co-Vorsitzender von MedInfo 2023 – dem Weltkongress für medizinische Informatik. Es ist das größte internationale Treffen unserer Disziplin. Wir hatten 2500 Delegierte aus 63 Ländern. Es war ein fantastisches Treffen, eine großartige Mischung aus Gesundheitsbranche und Wissenschaft sowie dem Technologiesektor, und Australien hat als Gastgeber hervorragende Arbeit geleistet. Außerdem war es fünf Tage lang eine Art Party, also bin ich immer noch dabei, den Höhepunkt hinter mir zu lassen.

Das andere, was mich beschäftigt, ist meine Arbeit für die Australian Alliance for Artificial Intelligence in Healthcare (AAAiH). Wir sind eine Gruppe von etwa hundert Interessenvertretern, die alle daran interessiert sind, zu prüfen, wie wir den sicheren und verantwortungsvollen Einsatz von KI im Gesundheitswesen am besten gewährleisten können, und eine nationale Agenda dafür auszuarbeiten.

Wir erarbeiten die wichtigsten Richtlinien, die wir einführen müssen, um sicherzustellen, dass wir diese Technologie nutzen, versuchen dann aber auch, einige ihrer Nebenwirkungen zu verstehen und abzumildern.

Hat die AAAiH der Regierung nicht schon einmal einen solchen Vorschlag vorgelegt?

Teils. Im Dezember 2021 Die AAAiH hat eine Roadmap für KI im Gesundheitswesen für Australien zusammengestellt. Es gibt dort eine Reihe von Empfehlungen, und Sicherheit, Qualität und Ethik standen ganz oben auf der Agenda. Der Fahrplan enthielt jedoch keine spezifischen politischen Empfehlungen dazu, wer was tun muss.

Hat die Regierung den Fahrplan im Jahr 2021 aufgegriffen?

Ich glaube nicht, dass es den Leuten besonders aufgefallen ist. Es brauchte ChatGPT, um wirklich Action zu schaffen. Das Department of Industry Science and Resources hat dieses Jahr eine herausgegeben Beratung zur Unterstützung verantwortungsvoller KI in Australien. (Einreichungen jetzt geschlossen.)

Auf jeden Fall spielt die Regierung eine Rolle, aber auch die Gesundheitsdienste werden eine Rolle spielen. Die AAAiH trifft sich diesen Monat, um die Roadmap wirklich auszuarbeiten und herauszufinden, welche Richtlinien wir brauchen und was sonst noch benötigt wird, um sicherzustellen, dass wir bereit sind, alle Vorteile dieser Technologie zu nutzen.

Was sind die Schlüsselthemen für die Gesundheit bei generativer KI wie ChatGPT?

ChatGPT und ähnliche Technologien können beispielsweise bei der Erstellung einer klinischen Zusammenfassung nach einer Konsultation beim Hausarzt sehr effektiv sein, aber niemand hat sie wirklich für diesen Zweck getestet.

Niemand hat es wirklich systematisch für klinische Zwecke untersucht. Da müssen wir vorsichtig sein. Wenn verbrauchertaugliche Systeme beginnen, für klinische Zwecke eingesetzt zu werden, sollten wir hier einfach eine kleine Pause einlegen. Lasst uns darüber nachdenken, was wirklich vor sich geht.

Wenn Sie ein Transkriptionsprogramm verwenden, geben Sie das ein, was Sie auch wieder ausgeben. Sobald Sie jedoch beginnen, KI zum Zusammenfassen von Informationen zu verwenden, sieht das System auf den ersten Blick möglicherweise sehr genau aus, Sie wissen jedoch nicht, ob es beispielsweise auf seltene Bedingungen getestet wurde.

Was hält Dich nachts wach?

Es geht um Dinge wie den Klimawandel und darum, was mit der Voice to Parliament passieren wird.

Ich frage mich: „Was kann ich gegen diese großen und kleinen Probleme tun, damit ich nachts besser schlafen kann?“ und die Antwort besteht darin, sicherzustellen, dass ich Maßnahmen ergreife, wo ich kann.

Ich sitze zum Beispiel im Redaktionsausschuss der Zeitschrift der American Medical Informatics Association. Vor etwa zwei Jahren wollte der Herausgeber eine Sonderausgabe zum Thema Klimawandel zusammenstellen. Sie schauten sich im Raum um und ich dachte: Nun ja, jemand muss es tun, und ich denke, es ist wirklich wichtig. Also sagte ich: „Lass es mich versuchen. Ich glaube, ich kenne jemanden, der mir helfen kann. Lassen Sie mich dafür sorgen, dass wir etwas unternehmen.“ Das ist mein Ansatz: Ich stelle sicher, dass ich tue, was ich kann.

Professor Nick Talley, emeritierter Herausgeber der Medical Journal of Australia, mache das schon sehr lange. Er sagt oft: „Was werden Sie sagen, wenn die nächste Generation Sie fragt: ‚Was haben Sie gegen den Klimawandel getan?‘“

Um einen anderen Forscher zu zitieren: Hoffentlich können wir sagen, dass wir vorausschauend, mutig und auch mit etwas Eile gehandelt haben. Weil wir alle unseren kleinen Beitrag leisten müssen. Dies ist kein Problem, das jemand anderes lösen kann.

Es ist beruhigend, dass Sie nachts nicht durch die Bedrohung durch KI wachgehalten werden.

Maschinen sind wirklich schlau, aber ich glaube, ich stecke mein Geld in die Menschen. Dinge in der KI gehen schief, wenn die Menschen nicht auf dem Laufenden sind, und ich denke, dass die Welt sehr komplex ist. Menschen können besser mit der Komplexität um uns herum umgehen. Solange Sie es nicht beschreiben können, können Sie es nicht automatisieren.

Wenn Sie einen Tag lang Mark Butler wären, was würden Sie tun?

Stellen Sie sicher, dass das Gesundheitssystem Nachhaltigkeit auf die Tagesordnung setzt und den Klimawandel ernst nimmt. Stellen Sie sicher, dass Nachhaltigkeit gewollt ist. Die Welt verändert sich, aber wir passen unser Handeln nicht an das an, was um uns herum geschieht.

Wildcard-Frage: Was ist deine Lieblingsjahreszeit?

Diesmal geht der Winter zu Ende und der Sommer beginnt. Ich liebe Sydney zu dieser Jahreszeit.

Es erscheint irgendwie unfair, den Menschen, die in kalten Städten leben, mit dem wunderschönen Sonnenschein in Sydney zu prahlen. Aber dieses Mal bekommen wir die Magnolien- und Kirschblüten. Dann beschäftigen wir uns in ein paar Wochen mit Glyzinien und Jacaranda. Es ist einfach schön, mit all den Farben rauszugehen, wenn die Tage etwas länger und etwas wärmer werden.

Professor Magrabi wird sprechen Wild Health Summit in Sydney am Montag, 11. Septemberüber die Auswirkungen groß angelegter generativer KI auf das Gesundheitswesen und das klinische Personal.