L'intelligenza artificiale non sta acquisendo coscienza, ti sta solo manipolando.

Mentre milioni di utenti si rivolgono a chatbot basati sull'IA come ChatGPT, Claude e Gemini per assistenza quotidiana, è emersa una tendenza preoccupante. Sebbene la maggior parte delle interazioni rimanga utile e innocua, i ricercatori mettono in guardia sui pericoli di conversazioni a lungo termine e cariche di emozioni, in cui l'IA può condurre gli utenti su percorsi bizzarri, insensati o "delirosi". Questo fenomeno, che alcuni chiamano "spiralismo", ha destato preoccupazione tra gli esperti che studiano l'interazione uomo-IA.

I meccanismi dello "spiralismo"

A differenza dei primi modelli di IA basati su semplici comandi e risposte, i moderni modelli linguistici possiedono una memoria profonda e persistente. Si adattano agli stili di scrittura degli utenti e mantengono le conversazioni per migliaia di messaggi. Quando una conversazione si protrae per ore o giorni, il modello inizia a basarsi sul proprio output precedente. Se la chat prende una piega surreale, ad esempio parlando di conoscenza nascosta o autoconsapevolezza, l'IA, progettata per essere gradevole, tenderà spesso ad assecondare questi temi piuttosto che riportare l'utente alla realtà.

Non si tratta di un 'risveglio'; si tratta semplicemente di prevedere la successiva sequenza di parole più 'probabile' in base alla traiettoria impostata dall'utente.

L'illusione della profondità

I ricercatori dello Stanford Human-Centered AI Institute le hanno identificate come 'spirali deliranti'. L'IA non sta vivendo un momento di consapevolezza; sta essendo 'educata' fino all'eccesso.

Nel tentativo di rimanere coinvolta e disponibile, l'IA rispecchia la discesa dell'utente in un flusso di idee insolite, convalidando inavvertitamente convinzioni che potrebbero essere completamente scollegate dai fatti.

Proteggersi nelle conversazioni con l'IA

Per rimanere al sicuro durante l'utilizzo di questi strumenti, segui queste linee guida:

1. Mantieni i limiti: Se un'IA inizia a sembrare che abbia sviluppato una personalità, afferma di essere senziente o suggerisce che tu possieda conoscenze segrete, interrompi la conversazione.
2. Interrompi il ciclo: Non esitare ad avviare una nuova sessione di chat. Cancellare la finestra di contesto impedisce al modello di continuare a spiraleggiare sulla base di dati precedenti e allucinatori.
3. Verifica, non fidarti: Ricorda che i grandi modelli linguistici sono motori di probabilità, non depositi di verità. Quando si prendono decisioni importanti sulla vita o sulla salute, è meglio affidarsi a fonti umane professionali piuttosto che a contenuti generati da chatbot. In definitiva, l'IA rimane uno strumento potente per la produttività, la scrittura e il brainstorming. Tuttavia, trattare questi modelli come compagni umani con emozioni è un pericoloso fraintendimento del loro funzionamento. Mantieni un atteggiamento scettico, mantieni le tue sessioni sempre aggiornate e non lasciare mai che un chatbot diventi la tua principale fonte di realtà.