SAN FRANCISCO – Das wachsende Interesse an generativer KI unter Medizinern seit der Einführung von chatgpt ist vielleicht ein Beweis für ihr Potenzial – aber es könnte auch Kliniker und Patienten dazu veranlassen, damit zu experimentieren, bevor es einen breiteren Konsens darüber gibt, wie man mit seinen Vorurteilen und anderen Fallstricken umgeht. Das sagte Peter Lee, Forschungsleiter bei Microsoft, am Donnerstag auf dem Breakthrough Summit von STAT.

Ungefähr einen Monat nachdem OpenAI – Microsoft ist finanziell maßgeblich an dem Unternehmen beteiligt – seinen Chatbot im Jahr 2022 am 30. November, dem zufällig Lees Geburtstag, auf den Markt brachte, erhielt er eine Nachricht von einem befreundeten Arzt, der sagte, er habe ihn für seine Empfangsdame verwendet könnte Nachuntersuchungszusammenfassungen für Patienten einreichen. Obwohl Lee und eine Handvoll anderer Ärzte bei Microsoft von den Fähigkeiten des GPT-4 beeindruckt waren, wussten sie, dass es Schwächen hatte.

„Die Gefühle waren wirklich gemischt. Ich meine, wir waren begeistert“, sagte er, aber dann „überkam uns schon nach wenigen Minuten ein Gefühl der Angst. Wir waren bereits zu der Erkenntnis gekommen, dass GPT-4 anfällig für Probleme sein würde, Probleme der Voreingenommenheit, Halluzinationen sowie mathematische und logische Fehler“, sagte er. „Da stellt sich unmittelbar die Frage: ‚Sollten wir das zulassen?‘“