На фоне участившихся скандалов, связанных с использованием искусственного интеллекта профессиональными авторами, британский стартап Books by People разработал систему сертификации, позволяющую издателям маркировать книги как «органические». Этот статус означает, что произведение было создано исключительно человеком, без помощи нейросетей. В среду компания подтвердила получение одобрения от Ведомства интеллектуальной собственности Великобритании (UK’s Intellectual Property Office) на использование специального знака в виде отпечатка пальца, который будет размещаться на обложке книг.
Методика проверки авторства и сертификации
По словам сооснователя Books by People Эсме Деннис, основная цель инициативы — предоставить читателям выбор. Компания не выступает против использования ИИ для создания контента, если это является осознанным решением автора, однако она стремится сделать процесс покупки книг, написанных людьми, прозрачным. Ранее подобные схемы маркировки уже существовали, но они опирались исключительно на систему честного слова автора. Новый подход от Books by People подразумевает более строгую процедуру верификации.
Сертификация включает в себя подачу автором официальной декларации, проверку рукописи через проприетарное программное обеспечение, а также ручной анализ ранних черновиков и исследовательских материалов, предоставленных писателем и редактором. Эксперты организации ищут «индикаторы человечности», изучая естественный процесс создания текста, включая стадии черновой работы и внесения правок. Таким образом, стартап стремится определить естественный ход написания произведения. На текущий момент к инициативе присоединились пять издательств, а появление первых книг с подобной маркировкой ожидается до конца текущего года. Модель монетизации Books by People предполагает фиксированную плату за членство для издателей и дополнительный сбор за каждую книгу, поданную на сертификацию.
Проблема доверия в книжной индустрии
В текущем году издательское дело столкнулось с серией громких инцидентов, связанных с подозрением авторов в использовании нейросетей. Среди них — отмена сделки с литератором на сумму 2 миллиона долларов, отзыв романа из продажи и обвинения в адрес лауреатов литературных премий в использовании ИИ для написания рассказов. Инсайдеры индустрии отмечают, что страх перед заменой писателей машинами вторичен: основной проблемой является нежелание аудитории взаимодействовать с текстом, не имеющим человеческого опыта за плечами.
Фантаст Тед Чан, автор новеллы «История твоей жизни», по которой был снят фильм «Прибытие», подчеркивает невозможность отделения знания о методе создания произведения от читательского опыта. По мнению Чана, осознание того, что текст вышел из-под «конвейера», препятствует эмоциональной вовлеченности в историю. С ним согласен Сэм Джордисон, содиректор издательства Galley Beggar Press, которое намерено использовать новую маркировку. Он называет использование ИИ при сокрытии этого факта своего рода мошенничеством, подрывающим доверие, на котором исторически строились отношения между писателем, издателем и читателем. Маркус Доле, бывший генеральный директор Penguin Random House, также поддержал идею, назвав человеческое повествование «жизненной силой» индустрии.
Риски ложных обвинений и будущее контроля
Несмотря на поддержку, внедрение инструментов для обнаружения ИИ вызывает опасения у экспертов. Том Уэст, исполнительный директор Publishers’ Licensing Services, предостерегает от превращения проверки книг в «охоту на ведьм». Ошибочный результат работы алгоритмов может нанести непоправимый репутационный ущерб авторам. Примером такой ошибки стал случай дебютного автора Джерри Фаладе, чья сделка на 2 миллиона долларов была расторгнута после того, как детектор ИИ оценил его рукопись как 97% сгенерированную нейросетью. Автор предположил, что ПО ошибочно приняло его нигерийский диалект за признаки машинного текста.
Эсме Деннис подчеркивает, что подход Books by People отличается от чисто технологических решений, таких как разработки нью-йоркского стартапа Pangram. Компания осознает, что в «гонке вооружений» между ИИ и детекторами технологий невозможно достичь устойчивого результата. Поэтому организация делает ставку на изучение рабочих документов и коммуникации. В спорных ситуациях Books by People принимает сторону автора, чтобы избежать несправедливых обвинений. Тем не менее, как отмечает Тед Чан, сам факт наличия политики «без обмана» в издательствах важен как декларация профессиональных ценностей, даже если идеальных методов обеспечения этой политики пока не существует.
Разница подходов к верификации
В то время как нью-йоркский стартап Pangram, считающийся одним из лидеров в области детекции контента, заявляет о способности выявлять сгенерированный текст с точностью 99,7%, авторы ставят под сомнение надежность таких инструментов. Проблема заключается в том, что сами детекторы работают на базе технологий искусственного интеллекта и зачастую не учитывают стилистические особенности, присущие разным авторам. В случае с Джерри Фаладе писатель отмечал в своем эссе: «На написание книги уходят месяцы или годы. А ПО для обнаружения ИИ нужно две минуты, чтобы разрушить дело всей вашей жизни». Этот инцидент стал показательным примером того, как технологический детерминизм может нанести ущерб репутации писателя.
Эсме Деннис подчеркивает фундаментальное различие: подход Books by People — это не «детекция ИИ» в чистом виде. Организация осознала, что вступать в бесконечную гонку с постоянно совершенствующимися нейросетевыми моделями бесперспективно и неустойчиво. Вместо этого акцент делается на кропотливом изучении «коммуникационных следов» и истории создания документа. При возникновении сомнений в результатах экспертизы стартап сознательно выбирает стратегию в пользу автора, руководствуясь принципом презумпции невиновности, чтобы исключить риск ложных обвинений.
Будущее индустрии и вопрос «умолчания»
Дискуссия вокруг маркировки затрагивает более глубокие этические вопросы о том, на кого именно должно ложиться бремя доказательств. Том Уэст из Publishers’ Licensing Services выражает обеспокоенность тем, что процесс контроля над авторами может стать чрезмерным и нормализовать постоянные допросы писателей относительно происхождения их идей. «Я считаю, что мы должны сопротивляться этому, — говорит Уэст. — По умолчанию книга должна считаться созданной человеком». Критики существующих схем маркировки указывают на перевернутую логику процесса: ответственность за раскрытие информации об использовании нейросетей должна лежать на издателях и платформах, а не на авторах, которые вынуждены постоянно оправдываться за свои методы работы.
Тем не менее, даже в условиях отсутствия идеальных технических методов контроля, многие представители интеллектуальной среды считают внедрение подобных стандартов необходимым жестом. Тед Чан сравнивает эту практику с университетской политикой академической честности: даже если систему можно обойти, сам факт наличия запрета на «обман» служит важным заявлением о ценностях. Для индустрии, которая веками опиралась на доверие, маркировка становится способом зафиксировать «недоговорные стандарты» человеческого творчества как базовый фундамент для читателя, который не хочет превращать чтение в процесс наблюдения за конвейерным производством текста.
