Cachés par les algorithmes : pourquoi les assistants d’achat IA masquent les produits fabriqués aux États-Unis

Alors que les consommateurs se tournent de plus en plus vers les assistants d'achat basés sur l'IA pour naviguer sur les vastes plateformes numériques de géants comme Amazon et Walmart, une tendance inquiétante se dessine. Une nouvelle étude du Centre de droit et d'économie de la faculté de droit de Columbia suggère que ces outils d'IA sophistiqués, bien qu'utiles pour les requêtes générales, agissent comme des filtres numériques susceptibles de masquer les produits fabriqués aux États-Unis au consommateur moyen.

Le biais «invisible» des recommandations de l'IA

Le rapport, intitulé «Fabriqué en Amérique, caché par l'IA», met en lumière une disparité importante dans la manière dont les modèles d'IA hiérarchisent les résultats de recherche. Lorsque les chercheurs ont interrogé ces assistants d'IA sur des produits fabriqués aux États-Unis, ils ont fréquemment rencontré des refus ou des réponses vagues. Étonnamment, les mêmes chatbots ont facilement fourni des informations détaillées lorsqu'on les a interrogés sur des produits originaires de Chine.

Erie Meyer, chercheuse principale au sein du centre et co-auteure de l'étude, a noté que les systèmes sont techniquement capables d'identifier les données d'origine, mais semblent conçus pour éviter de les mettre en avant. « Nous avons testé ces systèmes comme le ferait un ingénieur, et les refus se sont avérés infondés lors de tests élémentaires », a déclaré Meyer. « Les données étaient présentes, mais la conception était faite pour les dissimuler. »

Les mécanismes du contrôle numérique

Actuellement, ni Amazon ni Walmart ne proposent de filtre spécifique « Fabriqué aux États-Unis » pour leurs assistants IA, malgré des systèmes de filtrage avancés pour presque tous les autres attributs de produits. Cette absence oblige les consommateurs à se fier à la logique interne de l'IA, qui, selon les chercheurs, est fortement influencée par les intérêts des entreprises plutôt que par une sélection objective et axée sur le consommateur.

Lina Khan, directrice du Center for Law and the Economy et ancienne présidente de la Federal Trade Commission, a souligné les implications plus larges pour l'équité du marché. « Les incitations commerciales détermineront la manière dont ces avancées seront déployées », a-t-elle fait remarquer. « Les décideurs et les autorités chargées de l'application de la loi ont un rôle essentiel à jouer pour garantir que le public ne soit pas lésé. »

L'IA peut-elle réellement détecter la fraude?

Le constat le plus ironique de cette étude est peut-être que l'IA sous-jacente est sans doute «trop intelligente» pour son propre bien. Les chercheurs ont constaté que les assistants d'Amazon et de Walmart étaient capables d'identifier les allégations suspectes de «Fabriqué aux États-Unis» sur les fiches produits, en faisant la distinction entre les produits américains authentiques et les étiquettes trompeuses. Cela suggère que ces plateformes possèdent la capacité technique de privilégier les produits américains authentiques, mais ont choisi de ne pas le faire par souci de transparence pour les consommateurs.

Réponse du secteur

En réponse à l'étude, un porte-parole d'Amazon a défendu l'entreprise, affirmant que les informations sur le pays d'origine sont disponibles sur les pages de détails des produits et que l'entreprise travaille activement à améliorer l'accessibilité de ces données grâce à ses outils d'achat basés sur Alexa. Walmart, de son côté, n'a pas encore publié de commentaire officiel concernant les résultats de l'étude. Alors que l'IA continue de devenir l'interface principale de nos habitudes d'achat, l'opacité de ces moteurs de recommandation représente un véritable défi. Pour l'instant, les consommateurs doivent rester sceptiques face aux recommandations basées sur l'IA et continuer à effectuer des vérifications manuelles lorsque le pays d'origine est un critère important pour leurs décisions d'achat.