Algoritmalar Tarafından Gizleniyor: Yapay Zeka Alışveriş Asistanları Neden Amerikan Yapımı Ürünleri Maskeliyor?

Tüketiciler, Amazon ve Walmart gibi devlerin geniş dijital pazarlarında gezinmek için giderek daha fazla yapay zekâ destekli alışveriş asistanlarına yönelirken, endişe verici bir eğilim ortaya çıktı. Columbia Hukuk Fakültesi Hukuk ve Ekonomi Merkezi'nden yeni bir araştırma, bu gelişmiş yapay zekâ araçlarının, genel sorgular için faydalı olsa da, ortalama bir tüketicinin Amerikan yapımı ürünleri görmesini engelleyen dijital kapı bekçileri gibi davrandığını öne sürüyor.

Yapay Zekâ Önerilerindeki 'Görünmez' Önyargı

'Amerika'da Üretildi, Yapay Zekâ Tarafından Gizlendi' başlıklı rapor, yapay zekâ modellerinin arama sonuçlarını nasıl önceliklendirdiği konusunda önemli bir tutarsızlığı vurguluyor. Araştırmacılar, bu yapay zekâ asistanlarına Amerika Birleşik Devletleri'nde üretilen ürünler hakkında soru sorduklarında, sık sık ret veya belirsiz yanıtlarla karşılaştılar. Şaşırtıcı bir şekilde, aynı sohbet robotları, Çin menşeli ürünler hakkında sorulduğunda kolayca ayrıntılı bilgi sağladı.

Merkezde kıdemli araştırmacı ve çalışmanın ortak yazarı Erie Meyer, sistemlerin teknik olarak menşe verilerini belirleyebildiğini ancak bunu vurgulamaktan kaçınmak için tasarlanmış gibi göründüğünü belirtti. "Bu sistemleri bir mühendisin yapacağı gibi test ettik ve reddetmeler temel testler altında çöktü," dedi Meyer. "Veriler oradaydı, ancak tasarım onu gizlemek için yapılmıştı."

Dijital Kapı Bekçiliğinin Mekaniği

Şu anda ne Amazon ne de Walmart, neredeyse diğer tüm ürün özelliklerine yönelik kapsamlı filtreleme sistemlerine sahip olmalarına rağmen, yapay zeka asistanları için özel bir 'ABD'de Üretilmiştir' filtresi sağlamıyor. Bu eksiklik, alışveriş yapanları, araştırmacıların objektif, tüketici dostu bir seçimden ziyade kurumsal teşviklerden büyük ölçüde etkilendiğini savunduğu yapay zekanın iç mantığına güvenmeye zorluyor.

Hukuk ve Ekonomi Merkezi direktörü ve eski Federal Ticaret Komisyonu başkanı Lina Khan, piyasa adaletine yönelik daha geniş etkileri vurguladı. "İşletme teşvikleri, bu gelişmelerin nasıl uygulanacağını şekillendirecek," diye belirtti. "Politika yapıcıların ve uygulayıcıların, halkın mağdur olmamasını sağlamada hayati bir rolü vardır."

Yapay Zeka Gerçekten Sahtekarlığı Tespit Edebilir mi?

Belki de çalışmanın en ironik bulgusu, altta yatan yapay zekanın kendi iyiliği için 'fazla zeki' olmasıdır. Araştırmacılar, hem Amazon hem de Walmart'ın asistanlarının, ürün listelemelerindeki şüpheli 'ABD'de Üretilmiştir' iddialarını belirleyebildiğini, doğrulanmış yerli mallar ile yanıltıcı etiketler arasında ayrım yapabildiğini buldu. Bu, platformların otantik Amerikan ürünlerini önceliklendirme konusunda teknik yeteneğe sahip olduğunu, ancak tüketici şeffaflığı için bunu uygulamamayı tercih ettiklerini göstermektedir.

Sektörün Tepkisi

Çalışmaya yanıt olarak, bir Amazon sözcüsü şirketi savundu ve menşe ülke bilgilerinin ürün detay sayfalarında mevcut olduğunu ve şirketin Alexa destekli alışveriş araçları aracılığıyla bu verilere erişilebilirliği iyileştirmek için aktif olarak çalıştığını belirtti. Bu arada Walmart, araştırma bulgularıyla ilgili henüz resmi bir açıklama yapmadı. Yapay zeka alışveriş alışkanlıklarımız için birincil arayüz olmaya devam ederken, bu öneri motorlarının şeffaf olmaması gerçek bir zorluk teşkil ediyor. Şimdilik tüketiciler, yapay zeka destekli önerilere şüpheyle yaklaşmalı ve satın alma kararlarında menşe ülke öncelikli olduğunda manuel kontroller yapmaya devam etmelidir.