Стартап Artificial Intelligence Underwriting Company (AIUC), основанный бывшим сотрудником Anthropic Руне Квистом и экс-операционным директором исследовательской организации METR Радживом Даттани, объявил о привлечении 40 миллионов долларов в рамках раунда финансирования серии A. Раунд возглавила компания Ribbit Capital при участии First Harmonic. Ранее проект закрыл посевной раунд на 15 миллионов долларов, в котором приняли участие фонд Nat Friedman NFDG, Emergence, Terrain и соучредитель Anthropic Бен Манн. Общий объем привлеченных средств достиг 55 миллионов долларов.
Новый стандарт безопасности для корпоративного сектора
Основатели AIUC стремятся решить проблему контроля ИИ-агентов, которые становятся все более автономными. По словам Руне Квиста, по мере усложнения моделей компаниям становится труднее их внедрять и контролировать. На текущий момент клиентами стартапа уже являются такие проекты, как Cursor, Lovable, Harvey и ElevenLabs. В основе концепции AIUC лежит адаптация привычных принципов кибербезопасности для контроля рисков, связанных с искусственным интеллектом. Компания разработала стандарт AIUC-1, вдохновленный широко используемым протоколом кибербезопасности SOC 2.
Для формирования критериев оценки был создан консорциум, в который вошли около 250 руководителей по рискам и безопасности из крупных организаций. «Мы регулярно спрашиваем этих экспертов: какие гарантии вы хотите видеть перед покупкой ИИ-агентов и какие вопросы необходимо задавать разработчикам?» — пояснил Раджив Даттани. Результатом этой работы стал сервис тестирования, который проверяет агентов по более чем 5000 сценариев. В процессе анализа специалисты оценивают устойчивость систем к попыткам джейлбрейка, склонность к галлюцинациям и вероятность утечки данных.
Процесс аудита и верификации
Система аудита AIUC работает по гибридному принципу: тестирование и первичный анализ данных проводятся с помощью других ИИ-агентов, однако итоговый отчет верифицируется людьми. По результатам проверки клиент получает документ объемом около 100 страниц, в котором подробно описываются области, где агент ведет себя безопасно, и зоны потенциальных рисков. Квист отмечает, что крупные организации — банки, государственные учреждения и военные ведомства — часто отказываются от внедрения ИИ не из-за недостатка производительности, а из-за невозможности гарантировать соответствие системы заданным параметрам безопасности перед своими клиентами.
Сравнение с подходами исследовательских лабораторий
Деятельность AIUC перекликается с инициативами других профильных организаций. Например, бывший работодатель Даттани, компания METR, проводит тестирование для лабораторий, создающих модели передового уровня. Хотя METR в большей степени фокусируется на проверке производительности и надежности выполнения задач, идея независимой оценки становится отраслевым трендом. Ранее генеральный директор Anthropic Дарио Амодеи также призывал к необходимости использования сторонних аудиторов для наблюдения и верификации безопасности систем в индустрии. Хотя AIUC не предлагает постоянное внедрение на площадках заказчиков, стартап предоставляет независимую оценку, которая помогает компаниям осознанно принимать решения о внедрении конкретных инструментов, понимая их сильные стороны и скрытые угрозы.
Контекст и мотивация создания стартапа
Идея создания AIUC родилась в период, когда вопросы безопасности ИИ стали критическими для индустрии. Символично, что компания заявила о себе спустя день после ухода исследователя Anthropic Джейкоба Коксона, который публично выразил опасения, что развитие ИИ может привести к катастрофическим последствиям уже к концу текущего десятилетия. Основатели AIUC, Руне Квист и Раджив Даттани, будучи родственниками, решили сфокусироваться на прикладном решении: предотвращении выхода ИИ-агентов из-под контроля внутри корпоративных инфраструктур.
Связь с рыночными стандартами и экспертизой
Выбор SOC 2 в качестве «музы» для стандарта AIUC-1 не был случайным — это широко признанный эталон в сфере кибербезопасности, который дает корпоративным заказчикам необходимый уровень юридической и технической уверенности. Привлечение консорциума из 250 профильных руководителей позволило AIUC создать не теоретическую модель, а инструмент, отвечающий на реальные боли бизнеса: «Когда вы покупаете агентов, на что вы смотрите? Какие вопросы вы хотите задать и что именно хотите увидеть в качестве подтверждения?» — поясняет Даттани.
Вклад в глобальную безопасность ИИ
Деятельность AIUC пересекается с более масштабными инициативами в сфере контроля передовых разработок. Раджив Даттани продолжает оставаться членом совета директоров организации METR, где он занимал пост операционного директора в 2024–2025 годах. Примечательно, что именно METR была одной из независимых исследовательских групп, привлеченных OpenAI для расследования инцидента, связанного с платформой Hugging Face.
Сходство подходов AIUC и предложений генерального директора Anthropic Дарио Амодеи очевидно: Амодеи ранее призывал индустрию к замедлению гонки вооружений и внедрению практики обязательного привлечения сторонних наблюдателей для верификации безопасности систем. Хотя модель работы AIUC отличается от глубокого встраивания в лаборатории, предлагаемого Амодеи, итоговая цель остается общей: предоставить бизнесу прозрачную «карту рисков», чтобы перед покупкой продукта заказчик четко понимал: «Вот здесь агент работает надежно, а вот здесь есть опасения, о которых стоит знать заранее».
