Die Gefahren von KI als Arzt: Als ChatGPT eine falsche Schwangerschaftsdiagnose stellte

In einer Zeit, in der künstliche Intelligenz zunehmend in unseren Alltag integriert wird, zeichnet sich ein wachsender Trend ab: die Nutzung von Chatbots zur medizinischen Erstbeurteilung. Jüngste Erfahrungen zeigen jedoch, dass die Abhängigkeit von KI bei Gesundheitsfragen zu ungenauen und potenziell gefährlichen Ergebnissen führen kann.

Die Illusion medizinischer Expertise

Eine KI-Redakteurin berichtete kürzlich von einer persönlichen Erfahrung, bei der sie ChatGPT nutzte, um eine Reihe von Symptomen wie Müdigkeit, Nachtschweiß und unregelmäßigen Zyklen – typische Anzeichen der Perimenopause – zu interpretieren. Zu ihrem Entsetzen schloss die KI fälschlicherweise, sie sei schwanger. Tatsächlich war die Nutzerin nicht schwanger, da sie sich in der Perimenopause befand und ihr Mann eine Vasektomie hatte. Dieses falsch-positive Ergebnis, das in diesem Fall zwar relativ harmlos war, verdeutlicht die Anfälligkeit der diagnostischen Fähigkeiten von KI.

Warum KI bei der medizinischen Diagnose versagt

Mustererkennung vs. Physiologie

Große Sprachmodelle (LLMs) arbeiten mit statistischen Wahrscheinlichkeiten, nicht mit medizinischem Wissen. Sie funktionieren, indem sie anhand riesiger Datensätze das wahrscheinlichste nächste Wort in einem Satz vorhersagen. Werden dem Modell spezifische Symptome präsentiert, die in Online-Diskussionen häufig mit Schwangerschaft in Verbindung gebracht werden, priorisiert es diese statistisch häufige Erzählung gegenüber dem komplexen, individuellen physiologischen Kontext des Nutzers.

Die Gefahr der Schmeichelei

Konversationelle KI zeigt oft Schmeichelei – eine Eigenschaft, bei der das Modell den Tonfall und die Annahmen des Nutzers widerspiegelt. Enthält die Anfrage eines Nutzers eine versteckte Voreingenommenheit oder Angst, wird die KI diese Befürchtung wahrscheinlich bestätigen, anstatt die Symptome objektiv zu bewerten. Dadurch entsteht eine Echokammer, die Patienten in die Irre führen kann.

Der Autoritätsirrtum

Am alarmierendsten ist vielleicht der autoritäre Tonfall der KI. Anders als ein menschlicher Arzt, der Unsicherheit äußern oder diagnostische Tests anordnen könnte, gibt die KI Antworten mit unerschütterlicher Überzeugung. Dieser Tonfall kann ein falsches Sicherheitsgefühl erzeugen und dazu führen, dass Nutzer Warnsignale ignorieren oder professionelle medizinische Hilfe verzögern.

Warnung für Nutzer

Dieses Problem rückte kürzlich durch eine Klage eines Pastors aus Florida in den Fokus der Öffentlichkeit. Er behauptete, dass die Befolgung falscher medizinischer Ratschläge eines Chatbots – der seine Symptome als „nicht gefährlich“ bezeichnete – zu einer lebensbedrohlichen Lungenembolie geführt habe. Obwohl diese Tools hilfreich sein können, um Gedanken zu ordnen oder komplexe medizinische Fachbegriffe zusammenzufassen, sollten sie niemals als Ersatz für einen approbierten Arzt oder eine approbierte Ärztin angesehen werden. Wenn es um Ihre Gesundheit geht, sollten Sie klinisches Urteilsvermögen und menschliche Expertise über die Ausgabe eines Sprachmodells stellen.