Disembunyikan oleh Algoritma: Mengapa Asisten Belanja AI Menutupi Produk Buatan Amerika

Seiring meningkatnya ketergantungan konsumen pada asisten belanja bertenaga AI untuk menavigasi pasar digital yang luas dari raksasa seperti Amazon dan Walmart, sebuah tren yang mengkhawatirkan telah muncul. Penelitian baru dari Pusat Hukum dan Ekonomi Sekolah Hukum Columbia menunjukkan bahwa alat AI canggih ini, meskipun bermanfaat untuk pertanyaan umum, bertindak sebagai penjaga gerbang digital yang mungkin menyembunyikan produk buatan Amerika dari pembeli rata-rata.

Bias 'Tak Terlihat' dalam Rekomendasi AI

Laporan berjudul 'Dibuat di Amerika, Disembunyikan oleh AI,' menyoroti perbedaan signifikan dalam cara model AI memprioritaskan hasil pencarian. Ketika para peneliti menanyakan kepada asisten AI ini tentang produk yang diproduksi di Amerika Serikat, mereka sering menemukan penolakan atau tanggapan yang samar. Anehnya, chatbot yang sama dengan mudah memberikan informasi terperinci ketika ditanya tentang produk yang berasal dari Tiongkok.

Erie Meyer, seorang peneliti senior di pusat tersebut dan salah satu penulis studi, mencatat bahwa sistem tersebut secara teknis mampu mengidentifikasi data asal tetapi tampaknya dirancang untuk menghindari penyorotannya.

“Kami menguji sistem ini seperti yang dilakukan seorang insinyur, dan penolakan tersebut runtuh di bawah pengujian dasar,” kata Meyer. “Datanya ada, tetapi desainnya dibangun untuk menyembunyikannya.”

Mekanisme Penjaga Gerbang Digital

Saat ini, baik Amazon maupun Walmart tidak menyediakan filter 'Made in USA' khusus untuk asisten AI mereka, meskipun memiliki sistem penyaringan yang ekstensif untuk hampir setiap atribut produk lainnya. Ketiadaan ini memaksa pembeli untuk bergantung pada logika internal AI, yang menurut para peneliti sangat dipengaruhi oleh insentif perusahaan daripada kurasi yang objektif dan ramah konsumen.

Lina Khan, direktur Pusat Hukum dan Ekonomi dan mantan ketua Komisi Perdagangan Federal, menekankan implikasi yang lebih luas untuk keadilan pasar. “Insentif bisnis akan membentuk bagaimana kemajuan ini diterapkan,” katanya.

"Para pembuat kebijakan dan penegak hukum memiliki peran penting untuk memastikan masyarakat tidak dirugikan."

Bisakah AI Mendeteksi Penipuan?

Mungkin temuan yang paling ironis dari penelitian ini adalah bahwa AI yang mendasarinya bisa dibilang 'terlalu pintar' untuk kebaikannya sendiri. Para peneliti menemukan bahwa asisten Amazon dan Walmart mampu mengidentifikasi klaim 'Made in USA' yang mencurigakan pada daftar produk—membedakan antara barang domestik yang terverifikasi dan label yang menyesatkan. Ini menunjukkan bahwa platform tersebut memiliki kemampuan teknis untuk memprioritaskan produk Amerika asli tetapi telah memilih untuk tidak menerapkannya demi transparansi konsumen.

Tanggapan Industri

Menanggapi penelitian tersebut, juru bicara Amazon membela perusahaan, menyatakan bahwa informasi negara asal tersedia di halaman detail produk dan bahwa perusahaan secara aktif berupaya untuk meningkatkan aksesibilitas data ini melalui alat belanja yang didukung Alexa.

Sementara itu, Walmart belum mengeluarkan komentar resmi terkait temuan penelitian tersebut.

Seiring AI terus menjadi antarmuka utama untuk kebiasaan belanja kita, ketidaktransparanan mesin rekomendasi ini menimbulkan tantangan nyata. Untuk saat ini, konsumen harus tetap skeptis terhadap rekomendasi yang dipimpin AI dan terus melakukan pengecekan manual ketika negara asal menjadi prioritas dalam keputusan pembelian mereka.