Bị che giấu bởi thuật toán: Vì sao trợ lý mua sắm AI đang che đậy các sản phẩm sản xuất tại Mỹ?

Khi người tiêu dùng ngày càng chuyển sang sử dụng trợ lý mua sắm được hỗ trợ bởi trí tuệ nhân tạo (AI) để điều hướng các thị trường kỹ thuật số rộng lớn của những gã khổng lồ như Amazon và Walmart, một xu hướng đáng lo ngại đã xuất hiện. Nghiên cứu mới từ Trung tâm Luật và Kinh tế thuộc Trường Luật Columbia cho thấy rằng những công cụ AI tinh vi này, mặc dù hữu ích cho các truy vấn chung, đang hoạt động như những người gác cổng kỹ thuật số, có thể che khuất các sản phẩm sản xuất tại Mỹ khỏi người mua sắm thông thường.

Thiên kiến 'vô hình' trong các đề xuất của AI

Báo cáo có tiêu đề 'Sản xuất tại Mỹ, bị che giấu bởi AI' nêu bật sự khác biệt đáng kể trong cách các mô hình AI ưu tiên kết quả tìm kiếm. Khi các nhà nghiên cứu hỏi các trợ lý AI này về các sản phẩm được sản xuất tại Hoa Kỳ, họ thường gặp phải sự từ chối hoặc phản hồi mơ hồ. Điều đáng ngạc nhiên là, cùng một chatbot đó lại dễ dàng cung cấp thông tin chi tiết khi được hỏi về các sản phẩm có nguồn gốc từ Trung Quốc.

Erie Meyer, một nghiên cứu viên cao cấp tại trung tâm và đồng tác giả của nghiên cứu, lưu ý rằng về mặt kỹ thuật, các hệ thống này có khả năng xác định dữ liệu nguồn gốc nhưng dường như được thiết kế để tránh làm nổi bật nó. "Chúng tôi đã thử nghiệm các hệ thống này theo cách mà một kỹ sư sẽ làm, và các từ chối đã sụp đổ trong quá trình thử nghiệm cơ bản," Meyer tuyên bố. "Dữ liệu đã có sẵn, nhưng thiết kế được xây dựng để che giấu nó."

Cơ chế kiểm soát cổng thông tin kỹ thuật số

Hiện tại, cả Amazon và Walmart đều không cung cấp bộ lọc "Sản xuất tại Mỹ" cụ thể cho trợ lý AI của họ, mặc dù có hệ thống lọc mở rộng cho hầu hết mọi thuộc tính sản phẩm khác. Sự thiếu sót này buộc người mua sắm phải dựa vào logic nội tại của AI, mà các nhà nghiên cứu cho rằng bị ảnh hưởng nặng nề bởi các động cơ của doanh nghiệp hơn là sự chọn lọc khách quan, thân thiện với người tiêu dùng.

Lina Khan, giám đốc Trung tâm Luật và Kinh tế và cựu chủ tịch Ủy ban Thương mại Liên bang, nhấn mạnh những tác động rộng hơn đối với sự công bằng của thị trường. "Các động cơ kinh doanh sẽ định hình cách thức triển khai những tiến bộ này," bà lưu ý. "Các nhà hoạch định chính sách và người thực thi pháp luật đóng vai trò thiết yếu trong việc đảm bảo công chúng không bị thiệt thòi."

Liệu AI có thực sự phát hiện được gian lận?

Có lẽ phát hiện trớ trêu nhất của nghiên cứu là AI cơ bản lại "quá thông minh" đến mức gây hại cho chính nó. Các nhà nghiên cứu phát hiện ra rằng cả trợ lý ảo của Amazon và Walmart đều có khả năng xác định các tuyên bố "Sản xuất tại Mỹ" đáng ngờ trên danh sách sản phẩm—phân biệt giữa hàng hóa nội địa đã được xác minh và nhãn mác gây hiểu nhầm. Điều này cho thấy các nền tảng này sở hữu khả năng kỹ thuật để ưu tiên các sản phẩm chính hãng của Mỹ nhưng đã chọn không triển khai điều này vì sự minh bạch của người tiêu dùng.

Phản hồi từ ngành

Đáp lại nghiên cứu này, người phát ngôn của Amazon đã bảo vệ công ty, tuyên bố rằng thông tin về quốc gia xuất xứ có sẵn trên các trang chi tiết sản phẩm và công ty đang tích cực làm việc để cải thiện khả năng truy cập dữ liệu này thông qua các công cụ mua sắm được hỗ trợ bởi Alexa. Trong khi đó, Walmart vẫn chưa đưa ra bình luận chính thức nào về kết quả nghiên cứu.

Khi trí tuệ nhân tạo (AI) ngày càng trở thành giao diện chính cho thói quen mua sắm của chúng ta, sự thiếu minh bạch của các công cụ đề xuất này đặt ra một thách thức thực sự. Hiện tại, người tiêu dùng nên giữ thái độ hoài nghi đối với các đề xuất do AI đưa ra và tiếp tục tự kiểm tra thông tin khi xuất xứ hàng hóa là yếu tố ưu tiên trong quyết định mua hàng của họ.