Расцвет «искусственного хлама»: как генеративный ИИ наводняет Amazon фейковыми книгами

Иллюзия авторитета в цифровую эпоху

На протяжении десятилетий сам процесс публикации книги служил естественным фильтром качества и доверия. Традиционный процесс — состоящий из тщательного редактирования, профессионального дизайна и огромного труда автора — создавал некий авторитет. Однако появление больших языковых моделей (LLM), таких как ChatGPT, разрушило этот барьер, положив начало эре «искусственного мусора», где низкозатратный автоматизированный контент может быть упакован как профессиональная литература за считанные минуты.

Недавние расследования, в том числе отчеты New York Times, выявили тревожную тенденцию на Amazon: распространение биографий и руководств, созданных с помощью ИИ. Это не просто совместные работы, где ИИ помогает автору-человеку; Зачастую это полностью синтезированные продукты, созданные без какого-либо человеческого контроля и продаваемые ничего не подозревающим читателям.

Скрытая природа объявлений об авторских книгах, созданных с помощью ИИ

В недавнем эксперименте по выявлению таких автоматизированных произведений можно было бы ожидать очевидных признаков. Однако реальность гораздо более обманчива. На первый взгляд, книги, написанные ИИ на Amazon, выглядят совершенно законными. Они имеют высококачественные, профессионально выглядящие обложки, тщательно составленные описания и разумные цены. Даже звездные рейтинги — которыми легко манипулировать — придают им видимость подлинности.

Опасность заключается в «скрытой» природе этих книг. Без сознательных усилий по проверке обычный покупатель, скорее всего, предположит, что эти книги созданы опытным экспертом. Фасад настолько убедителен, что единственный способ распознать обман — заглянуть за страницу товара.

Трещины в фасаде: как распознать «фантомных» авторов

При более глубоком изучении метаданных этих объявлений начинают проявляться трещины. Первый серьезный тревожный сигнал часто обнаруживается на странице профиля автора. Многие из этих «писателей» — это фантомные личности — вымышленные образы с портретами из фотобанков и общими биографиями, в которых утверждается, что они «опытные аналитики» или «эксперты в области культуры».

Огромный объем публикаций — еще один явный признак обмана. Невыполнимые для человека графики публикаций распространены среди фабрик искусственного интеллекта; например, некоторые авторы, как выяснилось, опубликовали десятки книг за несколько месяцев, затрагивая совершенно несвязанные темы, от воспитания детей в одиночку до токсичной рабочей среды. Ни один автор-человек не может поддерживать такой уровень производительности в столь разнообразных нишах без огромной команды авторов-призраков, однако эти авторы работают в одиночку под одним именем.

«Диалект ИИ»: анализ маркетинговых текстов

Помимо профиля автора, язык, используемый для продажи книг, часто раскрывает их роботизированное происхождение. Маркетинговые тексты, сгенерированные ИИ, как правило, опираются на определенный набор повторяющихся, часто используемых фраз. Слова и фразы, такие как «углубиться», «подробное руководство» и «раскрыть секреты», стали отличительными чертами работ, созданных в рамках магистерских программ.

Эта взаимозаменяемая проза является результатом обработки одних и тех же запросов одними и теми же моделями. Биографии особенно проблематичны; многие просто собирают существующую информацию из интернета и синтезируют ее в уверенную на вид прозу. В таких случаях, как несанкционированные биографии технологического журналиста Кары Суишер или политолога Иэна Бреммера, книги не вносят ничего нового в общедоступную информацию, являясь лишь отголосками уже свободно доступной в интернете.

Более широкое влияние и борьба за подлинность

Это проблема не только Amazon. Платформы, такие как Substack, также ощутили давление, недавно заключив партнерские соглашения с компаниями, занимающимися обнаружением ИИ, такими как Pangram, чтобы позволить читателям сканировать публикации на предмет соотношения человеческого и искусственного интеллекта. Хотя эти инструменты не идеальны и рискуют давать «ложные срабатывания», их внедрение сигнализирует о насущной необходимости прозрачности в цифровом издательском деле.

По мере насыщения рынка автоматизированным контентом ответственность за проверку переходит к потребителю. Чтобы избежать попадания в ловушку «некачественной литературы, созданной ИИ», читателям следует применять более строгий процесс проверки:

• Сверяйте ссылки на авторов: Ищите автора вне издательского рынка, чтобы найти достоверную историю публикаций или профессиональное портфолио.
• Внимательно изучайте примеры текста: Используйте функцию «Заглянуть внутрь», чтобы проверить наличие повторяющихся фраз и отсутствие оригинальных идей.
• Ищите отзывы третьих лиц: Ищите профессиональные отзывы от известных литературных критиков, а не полагайтесь на анонимные звездные рейтинги.
• Требуйте оригинальности: В нехудожественной литературе ищите свидетельства реальных интервью и оригинальные цитаты.