Sự trỗi dậy của 'sản phẩm AI kém chất lượng': Trí tuệ nhân tạo tạo sinh đang tràn ngập Amazon bằng sách giả như thế nào?

Ảo tưởng về quyền lực trong thời đại kỹ thuật số

Trong nhiều thập kỷ, việc xuất bản một cuốn sách đóng vai trò như một bộ lọc tự nhiên cho chất lượng và độ tin cậy. Quy trình truyền thống—bao gồm biên tập nghiêm ngặt, thiết kế chuyên nghiệp và công sức của một tác giả—đã tạo ra một quyền lực vốn có. Tuy nhiên, sự xuất hiện của các Mô hình Ngôn ngữ Lớn (LLM) như ChatGPT đã phá bỏ rào cản này, mở ra một kỷ nguyên của 'sản phẩm AI kém chất lượng', nơi nội dung tự động, ít tốn công sức có thể được đóng gói thành tài liệu chuyên nghiệp chỉ trong vài phút.

Các cuộc điều tra gần đây, bao gồm cả các báo cáo từ tờ New York Times, đã nêu bật một xu hướng đáng lo ngại trên Amazon: sự gia tăng các tiểu sử và hướng dẫn do AI tạo ra. Đây không chỉ là những tác phẩm hợp tác mà AI hỗ trợ người viết; chúng thường là những sản phẩm được tổng hợp hoàn toàn, được sản xuất mà không có sự giám sát của con người và được bán cho những độc giả không hề hay biết.

Bản chất lén lút của các danh sách do AI tạo ra

Trong một thí nghiệm gần đây để xác định những tác phẩm tự động này, người ta có thể mong đợi những dấu hiệu cảnh báo sẽ rất rõ ràng. Tuy nhiên, thực tế lại đánh lừa hơn nhiều. Thoạt nhìn, những cuốn sách do AI viết trên Amazon trông hoàn toàn hợp pháp. Chúng có bìa chất lượng cao, chuyên nghiệp, mô tả được soạn thảo cẩn thận và giá cả hợp lý. Ngay cả xếp hạng sao—vốn có thể dễ dàng bị thao túng—cũng tạo cảm giác xác thực.

Nguy hiểm nằm ở bản chất 'bí mật' của những cuốn sách này. Nếu không chủ động điều tra, người mua hàng thông thường có thể cho rằng những tựa sách này là sản phẩm của một chuyên gia dày dạn kinh nghiệm. Vẻ ngoài thuyết phục đến mức cách duy nhất để phát hiện ra sự lừa dối là nhìn sâu hơn trang sản phẩm.

Những vết nứt trong lớp vỏ bọc: Cách phát hiện tác giả 'ma'

Khi tìm hiểu sâu hơn vào siêu dữ liệu của những sản phẩm này, những vết nứt bắt đầu lộ ra. Dấu hiệu cảnh báo lớn đầu tiên thường được tìm thấy trên trang hồ sơ của tác giả. Nhiều "tác giả" này là những danh tính ảo—những nhân vật được tạo dựng với ảnh chân dung có sẵn và tiểu sử chung chung tự nhận mình là "nhà phân tích dày dạn kinh nghiệm" hoặc "chuyên gia văn hóa".

Khối lượng sản phẩm khổng lồ cũng là một dấu hiệu rõ ràng khác. Lịch trình xuất bản bất khả thi đối với con người là điều phổ biến trong các trang trại AI; ví dụ, một số tác giả đã được phát hiện xuất bản hàng chục cuốn sách trong vài tháng, bao gồm các chủ đề hoàn toàn không liên quan từ nuôi dạy con một mình đến môi trường làm việc độc hại. Không một tác giả nào có thể duy trì mức sản lượng đó trên nhiều lĩnh vực đa dạng như vậy mà không cần một đội ngũ viết thuê khổng lồ, vậy mà những tác giả này lại hoạt động một mình dưới một cái tên duy nhất.

"Ngôn ngữ AI": Phân tích nội dung tiếp thị

Ngoài hồ sơ tác giả, ngôn ngữ được sử dụng để bán sách thường tiết lộ nguồn gốc robot của chúng. Nội dung tiếp thị do AI tạo ra có xu hướng dựa vào một tập hợp cụ thể các cụm từ lặp đi lặp lại, tần suất cao. Các từ và cụm từ như 'đi sâu vào', 'hướng dẫn toàn diện' và 'khám phá bí mật của' đã trở thành dấu ấn đặc trưng của các sản phẩm LLM.

Văn phong có thể thay thế cho nhau này là kết quả của việc cùng một câu hỏi được chạy qua cùng một mô hình. Tiểu sử là vấn đề đặc biệt nghiêm trọng; nhiều cuốn chỉ đơn giản là thu thập thông tin trực tuyến hiện có và tổng hợp nó thành văn phong nghe có vẻ tự tin. Trong trường hợp như tiểu sử không được phép của nhà báo công nghệ Kara Swisher hoặc nhà khoa học chính trị Ian Bremmer, những cuốn sách này không đóng góp gì mới cho hồ sơ công khai, chỉ là những tiếng vọng của thông tin đã có sẵn trên internet.

Tác động rộng hơn và cuộc chiến vì tính xác thực

Đây không chỉ là vấn đề của Amazon. Các nền tảng như Substack cũng cảm thấy áp lực, gần đây đã hợp tác với các công ty phát hiện AI như Pangram để cho phép người đọc quét các bài đăng để xem tỷ lệ người thật so với AI. Mặc dù những công cụ này không hoàn hảo và có nguy cơ "kết quả sai", việc triển khai chúng cho thấy nhu cầu cấp thiết về tính minh bạch trong xuất bản kỹ thuật số.

Khi thị trường bão hòa với nội dung tự động, trách nhiệm xác minh đang chuyển sang người tiêu dùng. Để tránh bị "mắc bẫy AI", độc giả nên áp dụng quy trình kiểm tra nghiêm ngặt hơn:

• Đối chiếu tác giả: Tìm kiếm tác giả bên ngoài thị trường để tìm lịch sử xuất bản đáng tin cậy hoặc hồ sơ chuyên môn.
• Kiểm tra kỹ văn bản mẫu: Sử dụng tính năng "Xem bên trong" để kiểm tra cách diễn đạt lặp lại và thiếu cái nhìn sâu sắc độc đáo.
• Tìm kiếm đánh giá từ bên thứ ba: Tìm kiếm các đánh giá chuyên nghiệp từ các nhà phê bình văn học có uy tín thay vì dựa vào xếp hạng sao ẩn danh.
• Yêu cầu tính độc đáo: Trong sách phi hư cấu, hãy tìm kiếm bằng chứng về các cuộc phỏng vấn thực tế và trích dẫn gốc.