Ukryte przez algorytmy: dlaczego asystenci zakupowi AI maskują produkty wyprodukowane w Ameryce

W miarę jak konsumenci coraz częściej korzystają z asystentów zakupowych opartych na sztucznej inteligencji, aby poruszać się po rozległych cyfrowych rynkach gigantów, takich jak Amazon i Walmart, pojawił się niepokojący trend. Nowe badania przeprowadzone przez Centrum Prawa i Gospodarki Columbia Law School sugerują, że te zaawansowane narzędzia AI, choć pomocne w przypadku ogólnych zapytań, działają jak cyfrowi strażnicy, którzy mogą utrudniać przeciętnemu klientowi dostęp do produktów wyprodukowanych w Ameryce.

„Niewidoczne” uprzedzenie w rekomendacjach AI

Raport zatytułowany „Wyprodukowano w Ameryce, ukryte przez AI” uwypukla znaczną rozbieżność w sposobie, w jaki modele AI priorytetyzują wyniki wyszukiwania. Kiedy badacze pytali asystentów AI o produkty wyprodukowane w Stanach Zjednoczonych, często spotykali się z odmowami lub niejasnymi odpowiedziami. Co zaskakujące, te same chatboty z łatwością udzielały szczegółowych informacji na pytania o produkty pochodzące z Chin.

Erie Meyer, starszy pracownik naukowy w centrum i współautor badania, zauważył, że systemy technicznie są w stanie identyfikować dane o pochodzeniu, ale wydają się zaprojektowane tak, aby unikać ich wyróżniania. „Testowaliśmy te systemy tak, jak zrobiłby to inżynier, a odmowy rozpadały się podczas podstawowych testów” – stwierdził Meyer. „Dane były, ale projekt został zaprojektowany tak, aby je ukryć”.

Mechanika kontroli dostępu cyfrowego

Obecnie ani Amazon, ani Walmart nie oferują konkretnego filtra „Wyprodukowano w USA” dla swoich asystentów AI, pomimo posiadania rozbudowanych systemów filtrowania dla niemal każdego innego atrybutu produktu. Ta nieobecność zmusza kupujących do polegania na wewnętrznej logice sztucznej inteligencji, która zdaniem badaczy jest w dużym stopniu uwarunkowana zachętami korporacyjnymi, a nie obiektywną, przyjazną konsumentom selekcją.

Lina Khan, dyrektor Centrum Prawa i Gospodarki oraz była przewodnicząca Federalnej Komisji Handlu, podkreśliła szersze implikacje dla sprawiedliwości rynkowej. „Zachęty biznesowe będą kształtować sposób wdrażania tych postępów” – zauważyła. „Decydenci i organy ścigania odgrywają kluczową rolę w zapewnieniu, że społeczeństwo nie zostanie pokrzywdzone”.

Czy sztuczna inteligencja rzeczywiście potrafi wykrywać oszustwa?

Być może najbardziej ironicznym odkryciem badania jest to, że leżąca u jej podstaw sztuczna inteligencja jest prawdopodobnie „zbyt inteligentna” dla własnego dobra. Badacze odkryli, że asystenci zarówno Amazona, jak i Walmartu byli w stanie identyfikować podejrzane oświadczenia „Made in USA” na listach produktów – odróżniając zweryfikowane towary krajowe od wprowadzających w błąd etykiet. Sugeruje to, że platformy posiadają techniczne możliwości priorytetowego traktowania autentycznych produktów amerykańskich, ale zdecydowały się nie wdrażać tej technologii ze względu na przejrzystość dla konsumentów.

Reakcja branży

W odpowiedzi na badanie rzecznik Amazona bronił firmy, twierdząc, że informacje o kraju pochodzenia są dostępne na stronach ze szczegółowymi informacjami o produktach i że firma aktywnie pracuje nad poprawą dostępności tych danych za pośrednictwem swoich narzędzi zakupowych opartych na Alexie. Walmart z kolei nie wydał jeszcze formalnego komentarza dotyczącego wyników badań.

W miarę jak sztuczna inteligencja staje się głównym interfejsem dla naszych nawyków zakupowych, nieprzejrzystość tych mechanizmów rekomendacji stanowi realne wyzwanie. Na razie konsumenci powinni zachować sceptycyzm wobec rekomendacji opartych na sztucznej inteligencji i nadal przeprowadzać ręczne sprawdzanie, gdy kraj pochodzenia jest priorytetem w decyzjach zakupowych.