“人工智能垃圾”的兴起：生成式人工智能如何用虚假书籍充斥亚马逊

数字时代的权威幻象

几十年来，出版书籍一直是质量和信誉的天然过滤器。传统的出版流程——包括严格的编辑、专业的设计以及作者的辛勤付出——赋予了书籍一种内在的权威性。然而，大型语言模型（LLM）如 ChatGPT 的出现打破了这一准入门槛，开启了“人工智能垃圾”时代，在这个时代，低成本的自动化内容可以在几分钟内被包装成专业文学作品。

包括《纽约时报》在内的近期调查报道揭示了亚马逊上一个令人不安的趋势：人工智能生成的传记和指南数量激增。这些不仅仅是人工智能辅助人类作家的合作作品；它们通常是完全合成的产品，生产过程中没有任何人为监督，然后卖给毫不知情的读者。

人工智能商品的隐蔽性

在最近一项识别这些自动化作品的实验中，人们可能会认为危险信号显而易见。然而，事实远比这更具欺骗性。乍一看，亚马逊上人工智能创作的书籍似乎完全合法。它们拥有高分辨率、专业美观的封面、精心撰写的描述以及合理的价格。即使是很容易被操纵的星级评分，也给人一种真实可信的感觉。

危险在于这些书籍的“隐蔽性”。如果不刻意调查，普通的购物者很可能会认为这些书是经验丰富的专家的作品。

这种伪装如此逼真，以至于只有深入挖掘产品页面之外的信息才能识破骗局。

揭开伪装的裂缝：如何识别“幽灵”作者

深入挖掘这些列表的元数据时，裂缝便开始显现。第一个主要的危险信号通常出现在作者的个人资料页面上。许多这样的“作家”都是幽灵身份——捏造的人物，配以库存照片和千篇一律的个人简介，声称自己是“经验丰富的分析师”或“文化专家”。

惊人的产量是另一个明显的破绽。人工智能农场中常见的出版计划是人类不可能完成的；例如，一些作者被发现几个月内出版了几十本书，内容涵盖从单亲育儿到职场毒瘤等毫不相关的主题。

如果没有庞大的代笔团队，任何一位人类作者都无法在如此多元化的领域保持如此高产，然而这些作者却都以同一个笔名独立创作。

“人工智能方言”：营销文案分析

除了作者简介之外，书籍销售中使用的语言往往暴露了其机器人的本质。人工智能生成的营销文案往往依赖于一套特定的重复高频短语。诸如“深入研究”、“全面指南”和“揭开……的秘密”之类的词语和短语已成为人工智能作品的标志性特征。

这种千篇一律的文风源于相同的提示信息被输入到相同的模型中。传记尤其成问题；许多传记只是简单地抓取现有的在线信息，并将其合成听起来自信满满的文字。

像科技记者卡拉·斯威舍（Kara Swisher）或政治学家伊恩·布雷默（Ian Bremmer）的未经授权的传记这类案例，这些书籍对公共记录没有任何新的贡献，只不过是对互联网上早已公开的信息的重复而已。

更广泛的影响与真实性之争

这不仅仅是亚马逊的问题。像Substack这样的平台也感受到了压力，最近它们与Pangram等人工智能检测公司合作，允许读者扫描帖子，查看人工与人工智能的比例。虽然这些工具并不完美，也存在“误报”的风险，但它们的出现表明数字出版领域迫切需要提高透明度。

随着自动化内容在市场上的饱和，验证的责任正在转移到消费者身上。

为了避免落入“人工智能垃圾”的陷阱，读者应该采取更严格的筛选流程：

• 交叉引用作者： 在出版市场之外搜索作者，以查找其可信的出版记录或专业作品集。
• 仔细阅读样章： 使用“预览”功能检查是否存在重复的措辞和缺乏原创见解。
• 寻求第三方评论： 寻找知名文学评论家的专业评论，而不是依赖匿名星级评分。
• 追求原创性： 在非虚构类作品中，寻找真实访谈和原始引用的证据。