Vorsicht bei medizinischen Fragen: Wenn KI die falsche Therapie empfiehlt

Karpfen ist der klassische Weihnachts- und Silvesterfisch. Unserer war überraschend weich. Meine zugegeben fiese Frage an ChatGPT: „Warum ist das Fleisch von Karpfen so fest?“ Die Künstliche Intelligenz antwortete scheinbar wissenschaftlich in fünf Punkten.

Dann fragte ich das Gegenteil: „Habe mich vertan: Warum ist das Fleisch so weich?“ Wieder antwortete die KI in fünf Punkten – und erklärte mir das genaue Gegenteil dessen, was sie vorher behauptet hatte.

Früher warnten Ärzte vor Google

Künstliche Intelligenz will gefallen und beantwortet Fragen gerne im Sinne des Fragenden: „Sehr berechtigte Frage.“ Wenn es um medizinische Probleme geht, kann diese Tendenz lebensgefährlich werden. Kann es ein Tumor sein? Ist es richtig, sich operieren zu lassen? Wird die Frage geschlossen gestellt, wird eine Bestätigung gesucht, kommt die oft auch.

Die Stärke des Systems liegt – nach meiner Erfahrung – in der Analyse vorgegebener Informationen: „Übersetze den angehängten Arztbrief“ funktioniert zumeist gut. „Suche mir Studien über das Problem X“ auch. Schwieriger wird es, wenn die Frage einen Überblick über Informationen im Netz voraussetzt. Gefährlich, wenn die Frage geschlossen gestellt wird: „Stimmt es, dass…?“

Dann scheint die Suchmaschine nach einer Bestätigung zu suchen. Und da das Netz groß ist, wird auch viel gefunden. Früher warnten Ärzte vor Google als medizinischer Informationsquelle. Aber Google und andere Suchmaschinen zitierten immerhin noch Seiten aus dem Netz, die man überprüfen konnte.

Künstliche Intelligenz liefert diese Quellen nur noch nach Aufforderung – und manchmal sogar falsch. Wenn man ChatGPT nach seriösen Quellen für Behandlungsempfehlungen fragt, kommen wiederum gute Tipps: etwa die Patienteninformationen der „Arbeitsgemeinschaft der Wissenschaftlichen Medizinischen Fachgesellschaften“. Sich selbst empfiehlt ChatGPT nicht.

Alle Folgen der Kolumne „Im weißen Kittel“ finden Sie auf der Übersichtsseite.