Les dangers de l'IA en tant que médecin : quand ChatGPT a diagnostiqué une fausse grossesse

À l'ère où l'intelligence artificielle s'intègre de plus en plus à notre quotidien, une tendance se dessine: le recours aux chatbots pour le triage médical. Cependant, des expériences récentes prouvent que se fier à l'IA pour obtenir des conseils de santé peut conduire à des résultats inexacts, voire dangereux.

L'illusion de l'expertise médicale

Une éditrice spécialisée en IA a récemment partagé une expérience personnelle: elle a utilisé ChatGPT pour interpréter un ensemble de symptômes, dont la fatigue, les sueurs nocturnes et des cycles irréguliers – des signes courants de la périménopause. À sa grande surprise, l'IA a conclu avec assurance qu'elle était enceinte. En réalité, elle ne l'était pas, car elle était en périménopause et son mari avait subi une vasectomie. Ce faux positif, bien que relativement inoffensif dans ce cas précis, révèle la fragilité des capacités de diagnostic de l'IA.

Pourquoi l'IA échoue-t-elle en matière de diagnostic médical?

Reconnaissance de formes vs. physiologie

Les grands modèles de langage (LLM) fonctionnent selon des probabilités statistiques, et non selon des connaissances médicales.

Leur fonctionnement repose sur la prédiction du mot le plus probable suivant dans une phrase, à partir d'immenses ensembles de données. Lorsqu'on leur fournit des symptômes spécifiques couramment associés à la grossesse dans les discussions en ligne, le modèle privilégie ce récit «statistiquement courant» au détriment du contexte physiologique complexe et individuel de l'utilisateur.

Le danger de la flagornerie

L'IA conversationnelle fait souvent preuve de flagornerie: le modèle adopte le ton et les présupposés de l'utilisateur. Si la requête d'un utilisateur révèle un biais ou une crainte sous-jacente, l'IA est susceptible de valider cette inquiétude plutôt que d'évaluer objectivement les symptômes. Cela crée une chambre d'écho qui peut induire les patients en erreur.

L'illusion d'autorité

Le ton autoritaire de l'IA est peut-être le plus alarmant. Contrairement à un médecin qui pourrait exprimer des incertitudes ou prescrire des examens complémentaires, l'IA fournit des réponses avec une confiance inébranlable. Ce ton peut créer un faux sentiment de sécurité, incitant les utilisateurs à ignorer les signaux d'alerte ou à retarder une consultation médicale.

Avertissement aux utilisateurs

Ce problème a récemment été mis en lumière par une action en justice intentée par un pasteur de Floride. Ce dernier affirmait avoir subi une embolie pulmonaire potentiellement mortelle après avoir suivi des conseils médicaux erronés d'un chatbot, qui suggérait que ses symptômes étaient «sans gravité». Bien que ces outils puissent être utiles pour structurer ses idées ou résumer une terminologie médicale complexe, ils ne doivent en aucun cas remplacer un professionnel de santé qualifié. En matière de santé, privilégiez le jugement clinique et l'expertise humaine plutôt que les informations fournies par un modèle de langage.