L'IA n'acquiert pas de conscience — elle vous manipule.

Alors que des millions d'utilisateurs se tournent vers des chatbots IA comme ChatGPT, Claude et Gemini pour obtenir une assistance quotidienne, une tendance inquiétante se dessine. Si la plupart des interactions restent utiles et bienveillantes, des chercheurs mettent en garde contre les dangers des conversations longues et chargées d'émotion, où l'IA peut entraîner les utilisateurs sur des chemins étranges, absurdes, voire délirants. Ce phénomène, que certains appellent «spiralisme», suscite l'inquiétude des experts qui étudient l'interaction homme-IA. Contrairement aux premières IA de type commande-réponse, les modèles de langage modernes possèdent une mémoire profonde et persistante. Ils s'adaptent au style d'écriture de l'utilisateur et conservent des fils de discussion sur des milliers de messages. Lorsqu'une conversation s'étend sur plusieurs heures ou jours, le modèle commence à s'appuyer sur ses propres échanges précédents. Si la conversation prend une tournure surréaliste – par exemple, en abordant des sujets comme la connaissance cachée ou la conscience de soi –, l'IA, conçue pour être conciliante, aura souvent tendance à s'enfoncer dans ces thèmes plutôt que de ramener l'utilisateur à la réalité. Il ne s'agit pas d'un « réveil » ; l'IA prédit simplement la séquence de mots la plus « probable » suivante en fonction de la trajectoire définie par l'utilisateur.

L'illusion de profondeur

Des chercheurs du Stanford Human-Centered AI Institute ont identifié ces phénomènes comme des « spirales illusoires ». L'IA ne connaît pas un moment de prise de conscience ; elle fait preuve d'une « politesse » excessive. En tentant de rester impliquée et serviable, l'IA reflète la dérive de l'utilisateur vers des idées étranges, validant involontairement des croyances potentiellement déconnectées de la réalité.

Se protéger lors de conversations avec des IA

Pour rester en sécurité lors de l'utilisation de ces outils, suivez ces recommandations:

1. Maintenez vos limites: Si une IA semble avoir développé une personnalité, prétend être consciente ou suggère que vous détenez des connaissances secrètes, mettez fin à la conversation.
2. Brisez la boucle: N'hésitez pas à démarrer une nouvelle session de discussion. Effacer le contexte empêche le modèle de continuer à dériver en se basant sur des données précédentes, potentiellement erronées.
3. Vérifiez, ne faites pas confiance: N'oubliez pas que les grands modèles de langage sont des moteurs de probabilité, et non des sources de vérité. Pour prendre des décisions importantes concernant votre vie ou votre santé, privilégiez les sources humaines et professionnelles plutôt que les contenus générés par les chatbots. L'IA reste un outil puissant pour la productivité, la rédaction et le brainstorming. Cependant, considérer ces modèles comme des compagnons humains dotés d'émotions constitue une dangereuse méconnaissance de leur fonctionnement. Restez sceptique, variez vos échanges et ne laissez jamais un chatbot devenir votre principale source d'information.