Versteckt durch Algorithmen: Warum KI-Einkaufsassistenten in Amerika hergestellte Produkte verschleiern

Da Verbraucher zunehmend KI-gestützte Einkaufsassistenten nutzen, um sich in den riesigen Online-Marktplätzen von Giganten wie Amazon und Walmart zurechtzufinden, zeichnet sich ein besorgniserregender Trend ab. Neue Forschungsergebnisse des Center for Law and the Economy der Columbia Law School legen nahe, dass diese hochentwickelten KI-Tools zwar bei allgemeinen Anfragen hilfreich sind, aber gleichzeitig als digitale Türsteher fungieren, die amerikanische Produkte für den Durchschnittskäufer unsichtbar machen könnten.

Die „unsichtbare“ Voreingenommenheit in KI-Empfehlungen

Der Bericht mit dem Titel „Made in America, Hidden by AI“ hebt eine erhebliche Diskrepanz in der Priorisierung von Suchergebnissen durch KI-Modelle hervor. Als Forscher diese KI-Assistenten nach in den USA hergestellten Produkten fragten, erhielten sie häufig Ablehnungen oder vage Antworten. Überraschenderweise lieferten dieselben Chatbots problemlos detaillierte Informationen zu Produkten aus China.

Erie Meyer, Senior Fellow am Center und Mitautorin der Studie, merkte an, dass die Systeme zwar technisch in der Lage seien, Herkunftsdaten zu identifizieren, aber offenbar so konzipiert seien, dass diese nicht hervorgehoben würden. „Wir haben diese Systeme so getestet, wie es ein Ingenieur tun würde, und die Ablehnungen erwiesen sich bei grundlegenden Tests als haltlos“, erklärte Meyer. „Die Daten waren vorhanden, aber das Design war darauf ausgelegt, sie zu verbergen.“

Die Mechanismen der digitalen Zugangskontrolle

Weder Amazon noch Walmart bieten derzeit einen spezifischen „Made in USA“-Filter für ihre KI-Assistenten an, obwohl sie über umfangreiche Filtersysteme für nahezu alle anderen Produktattribute verfügen. Dieses Fehlen zwingt Käufer dazu, sich auf die interne Logik der KI zu verlassen, die laut Forschern stark von Unternehmensanreizen und nicht von objektiver, verbraucherfreundlicher Auswahl beeinflusst wird.

Lina Khan, Direktorin des Center for Law and the Economy und ehemalige Vorsitzende der Federal Trade Commission, betonte die weitreichenden Folgen für die Marktgerechtigkeit. „Unternehmensanreize werden die Art und Weise der Implementierung dieser Fortschritte prägen“, bemerkte sie. „Politiker und Strafverfolgungsbehörden spielen eine entscheidende Rolle, um sicherzustellen, dass die Öffentlichkeit nicht benachteiligt wird.“

Kann KI Betrug tatsächlich aufdecken?

Das vielleicht ironischste Ergebnis der Studie ist, dass die zugrunde liegende KI möglicherweise „zu intelligent“ für ihr eigenes Wohl ist. Die Forscher fanden heraus, dass sowohl die Assistenten von Amazon als auch von Walmart in der Lage waren, verdächtige „Made in USA“-Angaben in Produktlisten zu erkennen – und zwischen geprüften inländischen Waren und irreführenden Etiketten zu unterscheiden. Dies deutet darauf hin, dass die Plattformen die technischen Möglichkeiten besitzen, authentische amerikanische Produkte zu priorisieren, sich aber aus Gründen der Verbrauchertransparenz gegen deren Umsetzung entschieden haben.

Reaktion der Branche

Als Reaktion auf die Studie verteidigte ein Amazon-Sprecher das Unternehmen und erklärte, dass Herkunftslandinformationen auf den Produktdetailseiten verfügbar seien und dass das Unternehmen aktiv daran arbeite, die Zugänglichkeit dieser Daten über seine Alexa-gestützten Shopping-Tools zu verbessern. Walmart hat sich bisher noch nicht offiziell zu den Forschungsergebnissen geäußert.

Da KI immer mehr zur primären Schnittstelle für unser Einkaufsverhalten wird, stellt die Intransparenz dieser Empfehlungssysteme eine echte Herausforderung dar. Verbraucher sollten daher vorerst skeptisch gegenüber KI-gestützten Empfehlungen bleiben und weiterhin manuelle Überprüfungen durchführen, wenn das Herkunftsland für ihre Kaufentscheidungen wichtig ist.