ซ่อนเร้นด้วยอัลกอริทึม: เหตุใดผู้ช่วยช้อปปิ้ง AI จึงปกปิดสินค้าที่ผลิตในอเมริกา

ในขณะที่ผู้บริโภคหันมาใช้ผู้ช่วยช้อปปิ้งที่ขับเคลื่อนด้วย AI มากขึ้นเรื่อยๆ เพื่อนำทางในตลาดดิจิทัลขนาดใหญ่ของยักษ์ใหญ่อย่าง Amazon และ Walmart แนวโน้มที่น่าเป็นห่วงก็ปรากฏขึ้น งานวิจัยใหม่จากศูนย์กฎหมายและเศรษฐกิจของคณะนิติศาสตร์ มหาวิทยาลัยโคลัมเบีย ชี้ให้เห็นว่าเครื่องมือ AI ที่ซับซ้อนเหล่านี้ แม้จะมีประโยชน์สำหรับคำถามทั่วไป แต่ก็ทำหน้าที่เป็นผู้เฝ้าประตูทางดิจิทัลที่อาจบดบังผลิตภัณฑ์ที่ผลิตในอเมริกาจากผู้ซื้อทั่วไป

อคติที่ 'มองไม่เห็น' ในคำแนะนำของ AI

รายงานชื่อ 'ผลิตในอเมริกา ซ่อนเร้นโดย AI' เน้นให้เห็นถึงความแตกต่างอย่างมีนัยสำคัญในวิธีที่แบบจำลอง AI จัดลำดับความสำคัญของผลการค้นหา เมื่อนักวิจัยสอบถามผู้ช่วย AI เหล่านี้เกี่ยวกับผลิตภัณฑ์ที่ผลิตในสหรัฐอเมริกา พวกเขาพบกับการปฏิเสธหรือคำตอบที่คลุมเครืออยู่บ่อยครั้ง

ที่น่าประหลาดใจคือ แชทบอทเหล่านี้สามารถให้ข้อมูลโดยละเอียดได้อย่างง่ายดายเมื่อถูกถามเกี่ยวกับผลิตภัณฑ์ที่มีต้นกำเนิดจากประเทศจีน

เอรี เมเยอร์ นักวิจัยอาวุโสของศูนย์และผู้ร่วมเขียนงานวิจัย กล่าวว่า ระบบเหล่านี้มีความสามารถทางเทคนิคในการระบุข้อมูลแหล่งกำเนิดสินค้า แต่ดูเหมือนว่าจะถูกออกแบบมาเพื่อหลีกเลี่ยงการเน้นย้ำข้อมูลดังกล่าว “เราทดสอบระบบเหล่านี้ในแบบที่วิศวกรจะทำ และการปฏิเสธก็ล้มเหลวภายใต้การทดสอบขั้นพื้นฐาน” เมเยอร์กล่าว “ข้อมูลมีอยู่ แต่การออกแบบถูกสร้างขึ้นเพื่อซ่อนมัน”

กลไกของการคัดกรองทางดิจิทัล

ปัจจุบัน ทั้ง Amazon และ Walmart ยังไม่มีตัวกรอง “ผลิตในสหรัฐอเมริกา” โดยเฉพาะสำหรับผู้ช่วย AI ของตน แม้ว่าจะมีระบบการกรองที่ครอบคลุมสำหรับคุณลักษณะของผลิตภัณฑ์อื่นๆ เกือบทุกอย่างก็ตาม การขาดหายไปนี้ทำให้ผู้ซื้อต้องพึ่งพาตรรกะภายในของ AI ซึ่งนักวิจัยโต้แย้งว่าได้รับอิทธิพลอย่างมากจากแรงจูงใจขององค์กรมากกว่าการคัดสรรอย่างเป็นกลางและเป็นมิตรกับผู้บริโภค

ลินา ข่าน ผู้อำนวยการศูนย์กฎหมายและเศรษฐกิจ และอดีตประธานคณะกรรมการการค้าแห่งสหรัฐอเมริกา เน้นย้ำถึงผลกระทบในวงกว้างต่อความเป็นธรรมของตลาด “แรงจูงใจทางธุรกิจจะเป็นตัวกำหนดวิธีการนำความก้าวหน้าเหล่านี้ไปใช้” เธอกล่าว “ผู้กำหนดนโยบายและผู้บังคับใช้กฎหมายมีบทบาทสำคัญในการทำให้แน่ใจว่าประชาชนจะไม่เสียเปรียบ”

AI สามารถตรวจจับการฉ้อโกงได้จริงหรือไม่?

บางทีสิ่งที่น่าขันที่สุดของการศึกษาคือ AI ที่อยู่เบื้องหลังนั้นอาจ 'ฉลาดเกินไป' สำหรับตัวมันเอง นักวิจัยพบว่าผู้ช่วยของทั้ง Amazon และ Walmart สามารถระบุคำกล่าวอ้าง 'Made in USA' ที่น่าสงสัยในรายการสินค้าได้ โดยแยกแยะระหว่างสินค้าในประเทศที่ได้รับการตรวจสอบแล้วกับฉลากที่ทำให้เข้าใจผิด สิ่งนี้ชี้ให้เห็นว่าแพลตฟอร์มเหล่านี้มีความสามารถทางเทคนิคที่จะให้ความสำคัญกับผลิตภัณฑ์อเมริกันแท้ แต่เลือกที่จะไม่นำไปใช้เพื่อความโปร่งใสของผู้บริโภค

การตอบสนองจากอุตสาหกรรม

ในการตอบสนองต่อการศึกษาดังกล่าว โฆษกของ Amazon ได้ปกป้องบริษัท โดยระบุว่าข้อมูลประเทศต้นกำเนิดมีอยู่ในหน้าข้อมูลรายละเอียดผลิตภัณฑ์ และบริษัทกำลังทำงานอย่างแข็งขันเพื่อปรับปรุงการเข้าถึงข้อมูลนี้ผ่านเครื่องมือช้อปปิ้งที่ขับเคลื่อนด้วย Alexa ในขณะเดียวกัน Walmart ยังไม่ได้ออกความเห็นอย่างเป็นทางการเกี่ยวกับผลการวิจัย

เนื่องจาก AI ยังคงกลายเป็นอินเทอร์เฟซหลักสำหรับพฤติกรรมการช้อปปิ้งของเรา ความไม่โปร่งใสของระบบแนะนำเหล่านี้จึงเป็นความท้าทายอย่างแท้จริง สำหรับตอนนี้ ผู้บริโภคควรยังคงสงสัยในคำแนะนำที่นำโดย AI และควรทำการตรวจสอบด้วยตนเองต่อไปเมื่อประเทศต้นกำเนิดเป็นสิ่งสำคัญสำหรับการตัดสินใจซื้อของพวกเขา