В декабре 2023 года издание The New York Times подало иск против компаний OpenAI и Microsoft, обвинив разработчиков в неправомерном использовании журналистских материалов для обучения нейросетей. Недавнее раскрытие судебных документов, проанализированных Ars Technica, предоставило доступ к внутренней переписке и оценкам высокопоставленных сотрудников обеих корпораций, касающимся функционирования моделей ИИ.
Опасность «цикла гибели» для экосистемы интернета
Одной из наиболее обсуждаемых стала позиция Брента Хехта, директора по прикладным наукам Microsoft. В своей внутренней презентации он предупредил, что поисковый движок Copilot способен одновременно негативно повлиять на эффективность самих моделей и на состояние всего интернета в целом. Согласно внутренним данным Microsoft, внедрение этого движка привело к значительному падению кликабельности для результатов поиска The New York Times: показатели снизились в диапазоне от 87% до 93% по сравнению со стандартными запросами в Bing. Для ресурсов компании Ziff Davis, владеющей IGN и Eurogamer, падение составило от 51% до 94%.
Брент Хехт охарактеризовал текущую модель взаимодействия как «цикл гибели» (doom loop). По его словам, ситуация, когда конечный продукт подрывает экономический фундамент своих главных поставщиков контента, является крайне нетипичной. В служебной записке от января 2023 года Хехт назвал происходящее «крупнейшей в истории человечества кражей результатов интеллектуального труда». Он подчеркнул, что ИИ извлекает экономическую ценность из чужих текстов, по сути лишая авторов трафика.
Взаимодействие OpenAI и вопросы обучения нейросетей
Материалы дела также затронули методы сбора данных компанией OpenAI. Из переписки следует, что исследователь OpenAI Ник Райдер сообщил президенту компании Грегу Брокману о наличии «способа обойти платный доступ The New York Times» для парсинга контента, на что Брокман ответил: «а, отлично» (ah nice). Кроме того, во внутренних документах OpenAI президент компании отмечал, что большие языковые модели (LLM) крайне эффективно справляются с любыми задачами, связанными с новостным контентом.
Судебные документы также содержат информацию о позиции руководства Microsoft относительно обучения ИИ на защищенных данными материалах. Ранее в этом году генеральный директор Microsoft Сатья Наделла под присягой заявил, что, если бы он знал об использовании OpenAI информации из-за платных доступов (пейволлов) для тренировки LLM, он потребовал бы от компании провести переобучение всех моделей. Сторона защиты, в свою очередь, настаивает на концепции добросовестного использования (fair use), однако представленные в суде документы ставят этот аргумент под сомнение, указывая на осознанные действия компаний в отношении «цепочки поставок контента».
Дополнительные подробности из судебного дела
Особую роль в «цикле гибели» (doom loop), описанном Брентом Хехтом, играет механика работы ИИ, при которой система собирает интеллектуальный труд для создания экономической выгоды, а затем «набивает» им ответы нейросети, делая их легкодоступными для пользователя. Хехт прямо охарактеризовал текущую бизнес-модель OpenAI и Microsoft в отношении «цепочки поставок контента» как ситуацию, в которой конечный продукт фактически угрожает существованию своих же основных поставщиков.
Раскрытые материалы проливают свет на то, насколько глубоко руководство осознавало методы работы с защищенным контентом. В частности, помимо цитируемой переписки о способах обхода пейволлов, внутренние документы OpenAI содержат записи Грега Брокмана, прямо указывающие на высокую оценку возможностей нейросетей в работе с новостной повесткой. Брокман заявлял, что большие языковые модели «очень хороши в решении любых новостных задач», что подтверждает приоритетность таких данных для обучения алгоритмов.
Важным аспектом, который подробно рассматривается в судебных документах, является опровержение классической линии защиты OpenAI и Microsoft. Компании пытаются обосновать свои действия концепцией «добросовестного использования» (fair use), утверждая, что обучение на открытых данных не нарушает авторских прав. Однако представленные суду доказательства — включая внутренние опасения сотрудников Microsoft о вреде для всей веб-экосистемы и свидетельства преднамеренного сбора данных с закрытых ресурсов — значительно усложняют попытки корпораций использовать этот юридический довод в свою пользу.
