Ocultos pelos algoritmos: por que os assistentes de compras com IA estão mascarando produtos fabricados nos EUA

À medida que os consumidores recorrem cada vez mais a assistentes de compras com inteligência artificial para navegar pelos vastos mercados digitais de gigantes como Amazon e Walmart, uma tendência preocupante surgiu. Uma nova pesquisa do Centro de Direito e Economia da Faculdade de Direito de Columbia sugere que essas sofisticadas ferramentas de IA, embora úteis para consultas gerais, estão atuando como guardiãs digitais que podem estar ocultando produtos fabricados nos EUA do consumidor médio.

O Viés 'Invisível' nas Recomendações de IA

O relatório, intitulado 'Fabricado nos EUA, Oculto pela IA', destaca uma discrepância significativa em como os modelos de IA priorizam os resultados de busca. Quando os pesquisadores questionaram esses assistentes de IA sobre produtos fabricados nos Estados Unidos, encontraram frequentes recusas ou respostas vagas. Surpreendentemente, os mesmos chatbots forneceram facilmente informações detalhadas quando questionados sobre produtos originários da China.

Erie Meyer, pesquisadora sênior do centro e coautora do estudo, observou que os sistemas são tecnicamente capazes de identificar dados de origem, mas parecem projetados para evitar destacá-los.

“Testamos esses sistemas da mesma forma que um engenheiro faria, e as recusas falharam nos testes básicos”, afirmou Meyer. “Os dados estavam lá, mas o projeto foi criado para escondê-los.”

A Mecânica do Controle Digital

Atualmente, nem a Amazon nem o Walmart oferecem um filtro específico “Fabricado nos EUA” para seus assistentes de IA, apesar de possuírem extensos sistemas de filtragem para quase todos os outros atributos de produtos. Essa ausência força os compradores a confiarem na lógica interna da IA, que, segundo pesquisadores, é fortemente influenciada por incentivos corporativos em vez de uma curadoria objetiva e amigável ao consumidor.

Lina Khan, diretora do Centro de Direito e Economia e ex-presidente da Comissão Federal de Comércio, enfatizou as implicações mais amplas para a justiça do mercado. “Os incentivos comerciais moldarão a forma como esses avanços serão implementados”, observou ela. “Os legisladores e os responsáveis pela aplicação da lei têm um papel vital a desempenhar para garantir que o público não seja prejudicado.”

A IA pode realmente detectar fraudes?

Talvez a descoberta mais irônica do estudo seja que a IA subjacente é, sem dúvida, 'inteligente demais' para o seu próprio bem. Os pesquisadores descobriram que os assistentes da Amazon e do Walmart eram capazes de identificar alegações suspeitas de 'Fabricado nos EUA' em anúncios de produtos — distinguindo entre produtos nacionais verificados e rótulos enganosos. Isso sugere que as plataformas possuem a capacidade técnica de priorizar produtos americanos autênticos, mas optaram por não implementar isso em prol da transparência para o consumidor.

Resposta da Indústria

Em resposta ao estudo, um porta-voz da Amazon defendeu a empresa, afirmando que as informações sobre o país de origem estão disponíveis nas páginas de detalhes do produto e que a empresa está trabalhando ativamente para melhorar a acessibilidade desses dados por meio de suas ferramentas de compras com tecnologia Alexa.

Enquanto isso, o Walmart ainda não emitiu um comentário formal sobre as conclusões da pesquisa.

À medida que a IA se torna a principal interface para nossos hábitos de compra, a opacidade desses mecanismos de recomendação representa um desafio real. Por ora, os consumidores devem permanecer céticos em relação às recomendações baseadas em IA e continuar realizando verificações manuais quando a origem do produto for uma prioridade em suas decisões de compra.