Ocultos por los algoritmos: por qué los asistentes de compra con IA están enmascarando los productos fabricados en Estados Unidos.

A medida que los consumidores recurren cada vez más a los asistentes de compra impulsados por IA para navegar por los vastos mercados digitales de gigantes como Amazon y Walmart, ha surgido una tendencia preocupante. Una nueva investigación del Centro de Derecho y Economía de la Facultad de Derecho de Columbia sugiere que estas sofisticadas herramientas de IA, si bien son útiles para consultas generales, están actuando como guardianes digitales que pueden estar ocultando los productos hechos en Estados Unidos al comprador promedio.

El sesgo 'invisible' en las recomendaciones de IA

El informe, titulado 'Hecho en Estados Unidos, oculto por la IA', destaca una discrepancia significativa en cómo los modelos de IA priorizan los resultados de búsqueda. Cuando los investigadores consultaron a estos asistentes de IA sobre productos fabricados en Estados Unidos, encontraron frecuentes negativas o respuestas vagas. Sorprendentemente, los mismos chatbots proporcionaron fácilmente información detallada cuando se les preguntó sobre productos originarios de China.

Erie Meyer, investigador principal del centro y coautor del estudio, señaló que los sistemas son técnicamente capaces de identificar datos de origen, pero parecen diseñados para evitar resaltarlos. «Probamos estos sistemas como lo haría un ingeniero, y los rechazos se desmoronaron con las pruebas básicas», afirmó Meyer. «Los datos estaban ahí, pero el diseño estaba hecho para ocultarlos».

La mecánica del control de acceso digital

Actualmente, ni Amazon ni Walmart ofrecen un filtro específico de "Hecho en EE. UU." para sus asistentes de IA, a pesar de tener extensos sistemas de filtrado para casi todos los demás atributos del producto. Esta ausencia obliga a los compradores a confiar en la lógica interna de la IA, que según los investigadores está fuertemente influenciada por los incentivos corporativos en lugar de una selección objetiva y amigable para el consumidor.

Lina Khan, directora del Centro de Derecho y Economía y expresidenta de la Comisión Federal de Comercio, enfatizó las implicaciones más amplias para la equidad del mercado. «Los incentivos empresariales darán forma a cómo se implementan estos avances», señaló. "Los legisladores y los encargados de hacer cumplir la ley tienen un papel vital que desempeñar para garantizar que el público no salga perjudicado."

¿Puede la IA realmente detectar el fraude?

Quizás el hallazgo más irónico del estudio es que la IA subyacente es posiblemente "demasiado inteligente" para su propio bien. Los investigadores descubrieron que los asistentes de Amazon y Walmart eran capaces de identificar afirmaciones sospechosas de "Hecho en EE. UU." en los listados de productos, distinguiendo entre productos nacionales verificados y etiquetas engañosas. Esto sugiere que las plataformas poseen la capacidad técnica para priorizar los productos estadounidenses auténticos, pero han optado por no implementar esto para la transparencia del consumidor.

Respuesta de la industria

En respuesta al estudio, un portavoz de Amazon defendió a la compañía, afirmando que la información del país de origen está disponible en las páginas de detalles del producto y que la compañía está trabajando activamente para mejorar la accesibilidad de estos datos a través de sus herramientas de compra impulsadas por Alexa. Mientras tanto, Walmart aún no ha emitido un comentario formal sobre los resultados de la investigación. A medida que la IA se consolida como la principal interfaz de nuestros hábitos de compra, la opacidad de estos motores de recomendación representa un verdadero desafío. Por ahora, los consumidores deben mantener el escepticismo ante las recomendaciones basadas en IA y seguir realizando comprobaciones manuales cuando el país de origen sea una prioridad en sus decisiones de compra.