Nascosti dagli algoritmi: perché gli assistenti virtuali basati sull'intelligenza artificiale per lo shopping nascondono i prodotti americani

Mentre i consumatori si affidano sempre più agli assistenti allo shopping basati sull'intelligenza artificiale per navigare nei vasti mercati digitali di giganti come Amazon e Walmart, è emersa una tendenza preoccupante. Una nuova ricerca del Center for Law and the Economy della Columbia Law School suggerisce che questi sofisticati strumenti di intelligenza artificiale, pur essendo utili per le ricerche generiche, agiscono come guardiani digitali che potrebbero nascondere i prodotti fabbricati in America al consumatore medio.

Il pregiudizio "invisibile" nelle raccomandazioni dell'IA

Il rapporto, intitolato "Made in America, nascosto dall'IA", evidenzia una significativa discrepanza nel modo in cui i modelli di IA danno priorità ai risultati di ricerca. Quando i ricercatori hanno interrogato questi assistenti di IA sui prodotti fabbricati negli Stati Uniti, hanno riscontrato frequenti rifiuti o risposte vaghe.

Sorprendentemente, gli stessi chatbot hanno fornito facilmente informazioni dettagliate quando interrogati su prodotti provenienti dalla Cina.

Erie Meyer, ricercatore senior presso il centro e coautore dello studio, ha osservato che i sistemi sono tecnicamente in grado di identificare i dati di origine, ma sembrano progettati per evitare di evidenziarli. "Abbiamo testato questi sistemi come farebbe un ingegnere e i rifiuti sono crollati durante i test di base", ha affermato Meyer. "I dati c'erano, ma il design era stato costruito per nasconderli."

I meccanismi del gatekeeping digitale

Attualmente, né Amazon né Walmart forniscono un filtro specifico "Made in USA" per i loro assistenti AI, nonostante dispongano di ampi sistemi di filtraggio per quasi ogni altro attributo del prodotto. Questa assenza costringe gli acquirenti a fare affidamento sulla logica interna dell'IA, che secondo i ricercatori è fortemente influenzata dagli incentivi aziendali piuttosto che da una selezione oggettiva e a misura di consumatore.

Lina Khan, direttrice del Center for Law and the Economy ed ex presidente della Federal Trade Commission, ha sottolineato le implicazioni più ampie per l'equità del mercato. "Gli incentivi aziendali influenzeranno il modo in cui questi progressi verranno implementati", ha osservato. "I responsabili politici e gli organi di controllo hanno un ruolo fondamentale da svolgere per garantire che il pubblico non ne risenta negativamente."

L'IA può davvero rilevare le frodi?

Forse la scoperta più ironica dello studio è che l'IA sottostante è probabilmente "troppo intelligente" per il suo stesso bene. I ricercatori hanno scoperto che gli assistenti di Amazon e Walmart erano in grado di identificare le affermazioni sospette "Made in USA" nelle schede prodotto, distinguendo tra prodotti nazionali verificati ed etichette fuorvianti. Ciò suggerisce che le piattaforme possiedono la capacità tecnica di dare priorità ai prodotti americani autentici, ma hanno scelto di non implementarla per garantire la trasparenza ai consumatori.

Risposta del settore

In risposta allo studio, un portavoce di Amazon ha difeso l'azienda, affermando che le informazioni sul paese di origine sono disponibili nelle pagine dei dettagli del prodotto e che l'azienda sta lavorando attivamente per migliorare l'accessibilità di questi dati attraverso i suoi strumenti di acquisto basati su Alexa. Walmart, nel frattempo, non ha ancora rilasciato un commento ufficiale in merito ai risultati della ricerca.

Poiché l'IA continua a diventare l'interfaccia principale per le nostre abitudini di acquisto, l'opacità di questi motori di raccomandazione rappresenta una vera sfida. Per ora, i consumatori dovrebbero rimanere scettici nei confronti delle raccomandazioni basate sull'IA e continuare a effettuare controlli manuali quando il paese di origine è una priorità per le loro decisioni di acquisto.