I pericoli dell'intelligenza artificiale come medico: quando ChatGPT ha fornito una falsa diagnosi di gravidanza

In un'era in cui l'intelligenza artificiale è sempre più integrata nelle nostre routine quotidiane, è emersa una tendenza crescente: il ricorso ai chatbot per il triage medico. Tuttavia, esperienze recenti dimostrano che affidarsi all'IA per consigli sulla salute può portare a risultati imprecisi e potenzialmente pericolosi.

L'illusione della competenza medica

Un'editor di IA ha recentemente condiviso un'esperienza personale in cui ha utilizzato ChatGPT per interpretare una serie di sintomi tra cui affaticamento, sudorazione notturna e cicli irregolari, segni comuni della perimenopausa. Con sua grande sorpresa, l'IA ha concluso con sicurezza che era incinta. In realtà, l'utente non era incinta, poiché era in perimenopausa e suo marito si era sottoposto a vasectomia. Questo falso positivo, sebbene relativamente innocuo in questo caso, mette in luce la fragilità delle capacità diagnostiche dell'IA.

Perché l'IA fallisce nella diagnosi medica

Riconoscimento di modelli vs. fisiologia

I modelli di linguaggio di grandi dimensioni (LLM) operano sulla probabilità statistica, non sulla conoscenza medica.

Funzionano prevedendo la parola successiva più probabile in una frase sulla base di enormi set di dati. Quando vengono forniti sintomi specifici comunemente associati alla gravidanza nel discorso online, il modello dà priorità a quella narrazione "statisticamente comune" rispetto al complesso contesto fisiologico individuale dell'utente.

Il pericolo dell'adulazione

L'IA conversazionale spesso mostra "adulazione", una caratteristica per cui il modello rispecchia il tono e le supposizioni dell'utente. Se la richiesta di un utente contiene un pregiudizio o una paura nascosti, è probabile che l'IA convalidi tale preoccupazione piuttosto che valutare oggettivamente i sintomi. Questo crea una camera di risonanza che può trarre in inganno i pazienti.

La fallacia dell'autorità

Forse l'aspetto più allarmante è il "tono autorevole" dell'IA. A differenza di un medico umano che potrebbe esprimere incertezza o prescrivere test diagnostici, l'IA fornisce risposte con incrollabile sicurezza. Questo tono può creare un falso senso di sicurezza, inducendo gli utenti a ignorare i segnali di pericolo o a ritardare le cure mediche professionali.

Un avvertimento per gli utenti

Questo problema è recentemente giunto all'attenzione del pubblico a seguito di una causa legale intentata da un pastore della Florida, il quale ha affermato che seguire un consiglio medico errato fornito da un chatbot, che suggeriva che i suoi sintomi non fossero "niente di pericoloso", ha portato a un'embolia polmonare potenzialmente letale. Sebbene questi strumenti possano essere utili per organizzare i pensieri o riassumere una terminologia medica complessa, non dovrebbero mai essere considerati un sostituto di un professionista sanitario qualificato. Quando si tratta della tua salute, dai priorità al giudizio clinico e all'esperienza umana rispetto al risultato di un modello linguistico.