การระบาดของ 'AI ปลอม': AI สร้างสรรค์กำลังท่วม Amazon ด้วยหนังสือปลอมได้อย่างไร

ภาพลวงตาแห่งอำนาจในยุคดิจิทัล

เป็นเวลาหลายทศวรรษที่การตีพิมพ์หนังสือทำหน้าที่เป็นตัวกรองคุณภาพและความน่าเชื่อถือตามธรรมชาติ กระบวนการแบบดั้งเดิม ซึ่งประกอบด้วยการแก้ไขอย่างเข้มงวด การออกแบบอย่างมืออาชีพ และแรงงานมหาศาลของนักเขียนที่เป็นมนุษย์ ได้สร้างอำนาจที่แท้จริงขึ้นมา อย่างไรก็ตาม การมาถึงของแบบจำลองภาษาขนาดใหญ่ (LLMs) เช่น ChatGPT ได้ทำลายอุปสรรคนี้ลง ทำให้เกิดยุคของ 'AI slop' ซึ่งเนื้อหาอัตโนมัติที่ใช้ความพยายามน้อยสามารถบรรจุเป็นวรรณกรรมระดับมืออาชีพได้ในเวลาเพียงไม่กี่นาที

การตรวจสอบล่าสุด รวมถึงรายงานจากนิวยอร์กไทมส์ ได้เน้นย้ำถึงแนวโน้มที่น่ากังวลบน Amazon: การแพร่หลายของชีวประวัติและคู่มือที่สร้างโดย AI สิ่งเหล่านี้ไม่ใช่แค่ผลงานร่วมกันที่ AI ช่วยเหลือนักเขียนที่เป็นมนุษย์เท่านั้น หนังสือเหล่านี้มักเป็นผลิตภัณฑ์สังเคราะห์ทั้งหมด ผลิตขึ้นโดยปราศจากการควบคุมดูแลจากมนุษย์ และขายให้กับผู้อ่านที่ไม่รู้เรื่องรู้ราว

ลักษณะที่ซ่อนเร้นของรายการสินค้าที่สร้างโดย AI

ในการทดลองล่าสุดเพื่อระบุผลงานอัตโนมัติเหล่านี้ เราอาจคาดหวังว่าสัญญาณเตือนภัยจะชัดเจน อย่างไรก็ตาม ความเป็นจริงนั้นหลอกลวงกว่ามาก เมื่อมองแวบแรก หนังสือที่เขียนโดย AI บน Amazon ดูเหมือนถูกต้องตามกฎหมายทุกประการ พวกมันมีปกที่มีความละเอียดสูง ดูเป็นมืออาชีพ คำอธิบายที่ประณีต และราคาที่สมเหตุสมผล แม้แต่การให้คะแนนดาว—ซึ่งสามารถเปลี่ยนแปลงได้ง่าย—ก็ให้ความรู้สึกเหมือนมีความน่าเชื่อถือ

อันตรายอยู่ที่ลักษณะที่ 'ซ่อนเร้น' ของหนังสือเหล่านี้ หากไม่มีความพยายามอย่างตั้งใจที่จะตรวจสอบ ผู้ซื้อทั่วไปอาจคิดว่าหนังสือเหล่านี้เป็นผลงานของผู้เชี่ยวชาญที่มีประสบการณ์

ภาพลักษณ์ภายนอกนั้นดูน่าเชื่อถือมาก จนวิธีเดียวที่จะจับได้ว่าเป็นการหลอกลวงก็คือต้องมองให้ลึกลงไปกว่าหน้ารายละเอียดสินค้า

รอยร้าวในภาพลักษณ์ภายนอก: วิธีสังเกตนักเขียน 'ผี'

เมื่อเจาะลึกเข้าไปในข้อมูลเมตาของรายการเหล่านี้ รอยร้าวก็จะเริ่มปรากฏให้เห็น สัญญาณเตือนสีแดงที่สำคัญอย่างแรกมักจะพบได้ในหน้าโปรไฟล์ของผู้เขียน นักเขียนเหล่านี้จำนวนมากเป็นตัวตนปลอม—ตัวตนที่สร้างขึ้นโดยใช้รูปถ่ายสต็อกและประวัติทั่วไปที่อ้างว่าเป็น 'นักวิเคราะห์ผู้มากประสบการณ์' หรือ 'ผู้เชี่ยวชาญด้านวัฒนธรรม'

ปริมาณผลงานที่มากมายมหาศาลเป็นอีกสิ่งหนึ่งที่บ่งบอกได้อย่างชัดเจน ตารางการตีพิมพ์ที่เป็นไปไม่ได้สำหรับมนุษย์เป็นเรื่องปกติในกลุ่มฟาร์ม AI ตัวอย่างเช่น พบว่าผู้เขียนบางคนตีพิมพ์หนังสือหลายสิบเล่มในเวลาไม่กี่เดือน ครอบคลุมหัวข้อที่ไม่เกี่ยวข้องกันอย่างสิ้นเชิง ตั้งแต่การเลี้ยงลูกคนเดียวไปจนถึงสถานที่ทำงานที่เป็นพิษ ไม่มีนักเขียนมนุษย์คนใดสามารถรักษาผลงานในระดับนั้นได้ในหลากหลายสาขาโดยปราศจากทีมเขียนรับจ้างขนาดใหญ่ แต่บรรดานักเขียนเหล่านี้กลับทำงานเพียงลำพังภายใต้ชื่อเดียว

ภาษาของ AI: การวิเคราะห์ข้อความทางการตลาด

นอกเหนือจากประวัติของนักเขียนแล้ว ภาษาที่ใช้ในการขายหนังสือมักเผยให้เห็นถึงที่มาของหุ่นยนต์ ข้อความทางการตลาดที่สร้างโดย AI มักจะอาศัยชุดวลีที่ซ้ำซากและมีความถี่สูง คำและวลีเช่น 'เจาะลึก', 'คู่มือที่ครอบคลุม' และ 'ไขความลับของ' ได้กลายเป็นเอกลักษณ์ของผลงาน LLM

ร้อยแก้วที่สลับสับเปลี่ยนกันได้นี้เป็นผลมาจากการใช้คำสั่งเดียวกันผ่านโมเดลเดียวกัน ชีวประวัติเป็นปัญหาอย่างยิ่ง หลายๆ ชีวประวัติเพียงแค่คัดลอกข้อมูลออนไลน์ที่มีอยู่แล้วและสังเคราะห์มันออกมาเป็นร้อยแก้วที่ฟังดูมั่นใจ

ในกรณีเช่นชีวประวัติที่ไม่ได้รับอนุญาตของนักข่าวเทคโนโลยี Kara Swisher หรือนักวิทยาศาสตร์การเมือง Ian Bremmer หนังสือเหล่านั้นไม่ได้เพิ่มข้อมูลใหม่ใดๆ ให้กับบันทึกสาธารณะ แต่เป็นเพียงเสียงสะท้อนของข้อมูลที่มีอยู่แล้วอย่างอิสระบนอินเทอร์เน็ต

ผลกระทบในวงกว้างและการต่อสู้เพื่อความถูกต้อง

นี่ไม่ใช่ปัญหาเฉพาะของ Amazon เท่านั้น แพลตฟอร์มอย่าง Substack ก็รู้สึกถึงแรงกดดันเช่นกัน โดยเมื่อเร็วๆ นี้ได้ร่วมมือกับบริษัทตรวจจับ AI เช่น Pangram เพื่อให้ผู้อ่านสามารถสแกนโพสต์เพื่อตรวจสอบอัตราส่วนระหว่างมนุษย์กับ AI แม้ว่าเครื่องมือเหล่านี้จะไม่สมบูรณ์แบบและมีความเสี่ยงที่จะเกิด 'ผลลัพธ์ที่ผิดพลาด' แต่การนำไปใช้แสดงให้เห็นถึงความจำเป็นเร่งด่วนสำหรับความโปร่งใสในการเผยแพร่ดิจิทัล

เมื่อตลาดเต็มไปด้วยเนื้อหาอัตโนมัติ ความรับผิดชอบในการตรวจสอบจึงเปลี่ยนไปอยู่ที่ผู้บริโภค เพื่อหลีกเลี่ยงการตกเป็นเหยื่อของ "งานเขียนไร้คุณภาพจาก AI" ผู้อ่านควรใช้กระบวนการตรวจสอบที่เข้มงวดมากขึ้น:

• ตรวจสอบประวัติผู้เขียน: ค้นหาผู้เขียนนอกตลาดเพื่อดูประวัติการตีพิมพ์หรือผลงานระดับมืออาชีพที่น่าเชื่อถือ
• ตรวจสอบตัวอย่างเนื้อหา: ใช้คุณสมบัติ "ดูตัวอย่างภายใน" เพื่อตรวจสอบการใช้คำซ้ำซ้อนและการขาดมุมมองที่เป็นต้นฉบับ
• มองหาบทวิจารณ์จากบุคคลที่สาม: มองหาบทวิจารณ์จากนักวิจารณ์วรรณกรรมที่มีชื่อเสียง แทนที่จะพึ่งพาการให้คะแนนดาวแบบไม่ระบุชื่อ
• เรียกร้องความเป็นต้นฉบับ: ในหนังสือที่ไม่ใช่นิยาย ให้มองหาหลักฐานการสัมภาษณ์ในโลกแห่งความเป็นจริงและการอ้างอิงที่เป็นต้นฉบับ