알고리즘에 숨겨진 진실: AI 쇼핑 도우미가 미국산 제품을 감추는 이유
컬럼비아 로스쿨의 새로운 연구에 따르면 아마존과 월마트의 AI 쇼핑 도우미가 미국산 제품을 숨기고 있을 가능성이 있으며, 이는 전자상거래 알고리즘 편향에 대한 우려를 불러일으키고 있습니다.
AI 추천의 '보이지 않는' 편향
'AI에 가려진 미국산'이라는 제목의 이 보고서는 AI 모델이 검색 결과의 우선순위를 정하는 방식에 상당한 불균형이 있음을 강조합니다. 연구원들이 이러한 AI 도우미에게 미국에서 제조된 제품에 대해 질문했을 때, 잦은 거부나 모호한 답변에 직면했습니다. 놀랍게도, 동일한 챗봇들은 중국산 제품에 대한 질문을 받았을 때 상세한 정보를 쉽게 제공했습니다.
이 연구의 공동 저자이자 센터의 선임 연구원인 에리 마이어는 시스템이 기술적으로 원산지 데이터를 식별할 수 있지만, 이를 강조하지 않도록 설계된 것으로 보인다고 지적했습니다. 마이어는 "엔지니어가 하는 방식대로 이러한 시스템을 테스트해 본 결과, 거부된 부분은 기본적인 테스트에서도 무너졌습니다."라고 말했습니다. "데이터는 존재했지만, 설계 자체가 이를 숨기도록 만들어진 것입니다."
디지털 게이트키핑의 메커니즘
현재 아마존과 월마트는 거의 모든 다른 제품 속성에 대한 광범위한 필터링 시스템을 갖추고 있음에도 불구하고, AI 비서에 '미국산'이라는 특정 필터를 제공하지 않습니다. 이러한 부재로 인해 쇼핑객들은 AI의 내부 논리에 의존할 수밖에 없는데, 연구원들은 이 논리가 객관적이고 소비자 친화적인 선별보다는 기업의 인센티브에 크게 영향을 받는다고 주장합니다.
법률경제센터 소장이자 전 연방거래위원회 위원장인 리나 칸은 시장 공정성에 미치는 광범위한 영향에 대해 강조했습니다. 그녀는 "기업의 인센티브가 이러한 기술 발전이 어떻게 활용될지를 결정할 것"이라며, "정책 입안자와 법 집행 기관은 대중이 피해를 보지 않도록 하는 데 중요한 역할을 해야 한다"고 지적했습니다.
AI는 실제로 사기를 탐지할 수 있을까?
이 연구에서 가장 아이러니한 결과는 기반이 되는 AI가 오히려 '너무 똑똑해서' 문제가 된다는 점입니다. 연구원들은 아마존과 월마트의 AI 도우미가 제품 목록에서 의심스러운 '미국산' 표시를 식별하고, 검증된 미국산 제품과 허위 표시를 구분할 수 있다는 사실을 발견했습니다. 이는 플랫폼들이 기술적으로는 진짜 미국산 제품을 우선시할 수 있는 능력을 갖추고 있지만, 소비자 투명성을 위해 이를 구현하지 않기로 선택했음을 시사합니다.
업계 반응
이번 연구 결과에 대해 아마존 대변인은 제품 상세 페이지에서 원산지 정보를 확인할 수 있으며, 알렉사 기반 쇼핑 도구를 통해 이러한 정보의 접근성을 개선하기 위해 적극적으로 노력하고 있다고 밝히며 회사를 옹호했습니다. 한편, 월마트는 아직 연구 결과에 대한 공식적인 입장을 발표하지 않았습니다.
인공지능(AI)이 쇼핑 습관의 주요 인터페이스로 자리 잡으면서 이러한 추천 엔진의 불투명성은 심각한 문제로 대두되고 있습니다. 당분간 소비자들은 AI 기반 추천에 대해 회의적인 태도를 유지하고, 구매 결정에 원산지가 중요한 경우 수동으로 확인하는 것이 좋습니다.
