Skryté algoritmy: Proč nákupní asistenti s umělou inteligencí maskují produkty vyrobené v Americe

Vzhledem k tomu, že se spotřebitelé stále častěji obracejí na nákupní asistenty s umělou inteligencí, aby se mohli orientovat na rozsáhlých digitálních tržištích gigantů, jako jsou Amazon a Walmart, objevil se znepokojivý trend. Nový výzkum Centra pro právo a ekonomiku Právnické fakulty Kolumbijské univerzity naznačuje, že tyto sofistikované nástroje umělé inteligence, ačkoli jsou užitečné pro obecné dotazy, fungují jako digitální strážci, kteří mohou zakrývat produkty vyrobené v Americe před průměrným nakupujícím.

„Neviditelné“ zkreslení v doporučeních umělé inteligence

Zpráva s názvem „Vyrobeno v Americe, skryté umělou inteligencí“ zdůrazňuje významný rozdíl v tom, jak modely umělé inteligence upřednostňují výsledky vyhledávání. Když se vědci těchto asistentů umělé inteligence dotazovali na produkty vyrobené ve Spojených státech, setkali se s častými odmítnutími nebo vágními odpověďmi. Překvapivě ti samí chatboti snadno poskytovali podrobné informace, když byli dotázáni na produkty pocházející z Číny.

Erie Meyer, vedoucí pracovník centra a spoluautor studie, poznamenal, že systémy jsou technicky schopny identifikovat údaje o původu, ale zdá se, že jsou navrženy tak, aby se vyhnuly jejich zvýraznění. „Tyto systémy jsme testovali tak, jak by to dělal inženýr, a odmítnutí se při základním testování rozpadla,“ uvedl Meyer. „Data tam byla, ale design byl vytvořen tak, aby je skryl.“

Mechanika digitálního gatekeepingu

V současné době ani Amazon, ani Walmart neposkytují pro své asistenty s umělou inteligencí specifický filtr „Vyrobeno v USA“, a to i přes to, že mají rozsáhlé filtrovací systémy pro téměř všechny ostatní atributy produktů. Tato absence nutí nakupující spoléhat se na vnitřní logiku umělé inteligence, kterou vědci tvrdí, že je silně ovlivněna spíše firemními pobídkami než objektivním, spotřebitelsky přívětivým výběrem.

Lina Khan, ředitelka Centra pro právo a ekonomiku a bývalá předsedkyně Federální obchodní komise, zdůraznila širší důsledky pro spravedlnost na trhu. „Obchodní pobídky budou formovat, jak bude tento pokrok nasazen,“ poznamenala. „Tvůrci politik a donucovací orgány hrají zásadní roli v zajištění toho, aby veřejnost nedostala na kloub.“

Dokáže umělá inteligence skutečně odhalit podvody?

Asi nejironičtějším zjištěním studie je, že základní umělá inteligence je pravděpodobně „příliš chytrá“ na své vlastní dobro. Výzkumníci zjistili, že asistenti Amazonu i Walmartu byli schopni identifikovat podezřelá tvrzení „Vyrobeno v USA“ na seznamech produktů – rozlišovat mezi ověřeným domácím zbožím a zavádějícími štítky. To naznačuje, že platformy mají technickou schopnost upřednostňovat autentické americké produkty, ale rozhodly se tuto možnost neimplementovat kvůli transparentnosti pro spotřebitele.

Reakce odvětví

V reakci na studii mluvčí Amazonu společnost obhajoval s tím, že informace o zemi původu jsou k dispozici na stránkách s podrobnostmi o produktu a že společnost aktivně pracuje na zlepšení dostupnosti těchto dat prostřednictvím svých nákupních nástrojů s podporou Alexy. Walmart se mezitím k výsledkům výzkumu zatím formálně nevyjádřil.

Vzhledem k tomu, že se umělá inteligence stále stává primárním rozhraním pro naše nákupní návyky, představuje neprůhlednost těchto doporučovacích systémů skutečnou výzvu. Spotřebitelé by prozatím měli zůstat skeptičtí k doporučením založeným na umělé inteligenci a nadále provádět manuální kontroly, pokud je pro jejich nákupní rozhodnutí prioritou země původu.