Крупные корпоративные клиенты начали выражать обеспокоенность по поводу того, как разработчики нейросетей, включая Anthropic и OpenAI, распоряжаются конфиденциальной информацией. Согласно отчету The Information, компании опасаются, что их интеллектуальная собственность может попасть в базу для обучения ИИ-моделей, что привело к введению жестких ограничений на использование инструментов искусственного интеллекта внутри организаций.
Изменения в политике Anthropic и реакция бизнеса
Одной из причин роста недоверия стало июньское изменение политики Anthropic в отношении флагманской модели Fable. Теперь компания имеет право хранить пользовательские данные, аргументируя это необходимостью предотвращения злоупотреблений. Однако бизнес-пользователи опасаются, что под этот процесс могут попасть чувствительные корпоративные сведения.
Хотя OpenAI и Anthropic официально заявляют, что по умолчанию не используют данные клиентов с корпоративными контрактами для дообучения моделей, вопрос сбора метаданных остается открытым. OpenAI утверждает, что собирает метаданные исключительно «для лучшего понимания использования сервисов», а Anthropic настаивает на том, что агрегированные данные об использовании продуктов являются анонимными и не применяются для тренировки ИИ.
Тем не менее, ясности в этих процессах недостаточно. Телекоммуникационная компания C Spire заключила соглашения с обоими разработчиками, запрещающие обучение на их данных. Несмотря на это, C Spire обеспокоена тем, что OpenAI и Anthropic все равно собирают техническую информацию о подключенных приложениях и использовании моделей. Отдельную тревогу вызывает возможный сбор данных о «цепочке рассуждений» (chain-of-thought) — информации о том, что модель делает между генерацией ответов. OpenAI заверяет, что не использует такие данные для обучения, однако C Spire настаивает на необходимости более прозрачных разъяснений.
Стратегии защиты данных и отказ от использования ИИ
В ответ на риски конфиденциальности компании выбирают различные пути защиты своей интеллектуальной собственности:
- Air-gapped серверы: Аэрокосмическая компания Northrop Grumman предпочла запускать open-source модели на собственных изолированных серверах, не доверяя облачным решениям OpenAI и Anthropic.
- Безопасные облачные среды: Microsoft предлагает клиентам собственные изолированные платформы, которые не передают данные внешним ИИ-компаниям, однако этот подход требует значительных затрат.
- Строгие внутренние запреты: Фармацевтическая компания Novo Nordisk использует модель Claude только для ограниченного круга задач, полностью запретив передачу модели любых проприетарных данных.
Недоверие к политике ИИ-компаний уже приводит к финансовым потерям для разработчиков. Крупная американская коммунальная компания отказалась от тестирования Anthropic Fable, так как разработчик не согласился на внедрение политики «нулевого удержания данных» (zero data retention, ZDR). Аналогичную позицию заняла Nvidia: компания использует Fable лишь для задач, не требующих доступа к чувствительной информации, ссылаясь на отсутствие гарантий ZDR. Для критически важных данных Nvidia задействует собственное внутреннее ИИ-решение. Несмотря на призыв генерального директора Дженсена Хуанга активно внедрять ИИ в рабочие процессы, компания сохраняет осторожность в отношении сторонних облачных моделей.
Дополнительные меры безопасности и реакция рынка
Корпоративные клиенты продолжают искать альтернативные способы защиты информации на фоне опасений по поводу прозрачности сбора метаданных. В частности, телекоммуникационный оператор C Spire заключил с OpenAI и Anthropic такие договоры, которые прямо запрещают компаниям использовать корпоративные данные для обучения нейросетей. При этом заключенные контракты все равно разрешают собирать технические данные об использовании продуктов и информацию о том, к каким именно приложениям подключаются ИИ-модели.
Специалисты C Spire выражают обеспокоенность тем, что под видом технической информации разработчики могут фиксировать внутренние процессы моделей между этапами генерации ответов. Представители OpenAI официально заявляют, что подобные данные о «цепочке рассуждений» (chain-of-thought) не задействуются для тренировки ИИ, однако руководство телекоммуникационной компании настаивает на более детальных и понятных объяснениях со стороны вендоров.
Отказ от контрактов и альтернативные решения
Проблема отсутствия гарантий необратимой политики «нулевого удержания данных» (zero data retention, ZDR) уже бьет по финансовым показателям разработчиков искусственного интеллекта. Из-за отказа Anthropic внедрить ZDR-политику крупная американская коммунальная компания полностью отменила запланированные тесты модели Fable. Данная организация планировала проверить работоспособность ИИ для управления ключевой энергетической инфраструктурой.
Похожей позиции придерживается и корпорация Nvidia. Руководство компании разрешило использовать модель Fable исключительно для тех рабочих процессов, которые не предполагают доступа к конфиденциальным сведениям. В качестве причины Nvidia также назвала отсутствие надежных гарантий нулевого удержания данных (ZDR). Для чувствительных задач компания задействует собственные внутренние разработки.
Генеральный директор Nvidia Дженсен Хуанг ранее сделал знаменитое заявление о том, что сотрудники компании должны ежегодно расходовать на искусственный интеллект токены, эквивалентные половине их годовой заработной платы. Тем не менее, даже при таком масштабном внедрении технологий ИИ, для работы с критически важной информацией компания полагается на собственное инсайдеровское решение, а не на сторонние облачные сервисы.
