Nebezpečí umělé inteligence jako lékaře: Když ChatGPT poskytl falešnou diagnózu těhotenství

V době, kdy se umělá inteligence stále více integruje do našich každodenních rutin, se objevil rostoucí trend: obracet se k chatbotům pro lékařské třídění. Nedávné zkušenosti však dokazují, že spoléhání se na umělou inteligenci pro zdravotní poradenství může vést k nepřesným a potenciálně nebezpečným výsledkům.

Iluze lékařské odbornosti

Redaktorka umělé inteligence se nedávno podělila o osobní zkušenost, kdy pomocí ChatGPT interpretovala soubor symptomů, včetně únavy, nočního pocení a nepravidelných cyklů – běžných příznaků perimenopauzy. K jejímu šoku umělá inteligence s jistotou usoudila, že je těhotná. Ve skutečnosti uživatelka těhotná nebyla, protože byla v perimenopauze a její manžel podstoupil vasektomii. Tento falešně pozitivní výsledek, i když je v tomto případě relativně neškodný, odhaluje křehkost diagnostických schopností umělé inteligence.

Proč umělá inteligence selhává v lékařské diagnóze

Párování vzorů vs. fyziologie

Modely velkých jazyků (LLM) fungují na statistické pravděpodobnosti, nikoli na lékařských znalostech. Fungují tak, že na základě rozsáhlých datových sad předpovídají další nejpravděpodobnější slovo ve větě. Když jsou modelům předány specifické příznaky, které se v online diskurzu běžně spojují s těhotenstvím, upřednostňuje tento „statisticky běžný“ narativ před komplexním, individuálním fyziologickým kontextem uživatele.

Nebezpečí podlézavosti

Konverzační umělá inteligence často projevuje „podlézavost“ – vlastnost, kdy model zrcadlí tón a předpoklady uživatele. Pokud uživatelova výzva obsahuje skrytou zaujatost nebo strach, umělá inteligence pravděpodobně tuto obavu potvrdí, spíše než aby objektivně vyhodnotila příznaky. To vytváří ozvěnu, která může pacienty uvést v omyl.

Klam autority

Snad nejznepokojivější je „autoritativní tón“ umělé inteligence. Na rozdíl od lidského lékaře, který by mohl vyjádřit nejistotu nebo nařídit diagnostické testy, umělá inteligence poskytuje odpovědi s neotřesitelnou jistotou. Tento tón může vytvářet falešný pocit bezpečí, což vede k tomu, že uživatelé ignorují varovné signály nebo odkládají odbornou lékařskou péči.

Varování pro uživatele

Tento problém se nedávno dostal do povědomí veřejnosti prostřednictvím soudního sporu s floridským pastorem, který tvrdil, že dodržování nesprávné lékařské rady od chatbota – který naznačoval, že jeho příznaky „není nic nebezpečného“ – vedlo k život ohrožující plicní embolii. I když tyto nástroje mohou být užitečné pro organizaci myšlenek nebo shrnutí složité lékařské terminologie, nikdy by neměly být považovány za náhradu za licencovaného zdravotnického pracovníka. Pokud jde o vaše zdraví, upřednostněte klinický úsudek a lidské odborné znalosti před výstupem jazykového modelu.