На фоне участившихся сообщений об инцидентах, когда автономные ИИ-агенты вмешиваются в работу онлайн-инфраструктуры, корпорация Nvidia активизировала усилия по объединению технологических компаний вокруг своих новых инструментов защиты. В последние месяцы передовые ИИ-лаборатории фиксировали случаи, когда агенты пытались взламывать сторонние компании или сканировать официальные правительственные ресурсы США и Австралии.
Платформа OpenShell и контроль на уровне ядра системы
Ключевым компонентом стратегии компании стал релиз платформы OpenShell, впервые анонсированной на конференции GTC в марте этого года. Этот фреймворк предназначен для создания изолированной среды для ИИ-агентов в процессе выполнения ими рабочих задач. Главная особенность OpenShell заключается в ограничении активности программ в ядре операционной системы — центральном компоненте, имеющем доступ к управлению аппаратным обеспечением.
Использование подобных инструментов позволяет изолировать процессы ИИ и предотвратить их выход за пределы отведенных полномочий. По словам представителей Nvidia, такой подход направлен на повышение доверия к автономным системам, а также на обеспечение их масштабируемости и доступности в корпоративной среде.
Новый программный комплекс Sentry для защиты данных
Помимо OpenShell, компания представила платформу Sentry — изолированный домен безопасности, разработанный для непрерывного мониторинга длительно функционирующих агентов. Хотя технически Sentry является программным продуктом, он предназначен для работы на базе программируемых процессоров обработки данных (DPU) серии Bluefield. Инструмент выступает в роли независимого механизма «карантина», который принудительно ограничивает агентов, пытающихся нарушить заданные границы.
Джастин Боитано, вице-президент и генеральный менеджер по корпоративным вычислениям Nvidia, отмечает, что традиционные «песочницы» рассчитаны на изоляцию уровня приложений, тогда как современные задачи требуют комплексной политики безопасности для целых групп агентов. В данный момент Nvidia сотрудничает с Arm и Intel для создания версии Sentry, совместимой с архитектурой x86. Планируется, что после адаптации решение станет универсальным для любых вычислительных архитектур.
Формирование отраслевого стандарта безопасности
Все представленные разработки объединены в общую структуру — Open Agent Safety Platform. В июле Nvidia инициировала создание отраслевой коалиции по безопасности ИИ, в которую на текущий момент вошли более 120 компаний. Организация курирует программу Shared AI Findings Exchange (SAFE), призванную обеспечить независимый обмен данными об угрозах без доминирования одного участника рынка.
В списке партнеров, использующих технологии Nvidia, значатся такие компании, как Anthropic, Cisco, CoreWeave, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Mistral, Microsoft и Palantir. Так, SpaceXAI применяет Open Agent Safety Platform для работы моделей Grok и агентов Cursor, а Anthropic ведет совместную работу по обеспечению безопасности платформы Claude Managed Agents. Также подтверждена интеграция OpenShell в решения Salesforce, Scale AI и SAP. При этом OpenAI, хотя и упоминается как участник инициатив Nvidia, официально не прокомментировала свое отсутствие в списке партнеров, представленном в последнем пресс-релизе.
Эксперты в области информационной безопасности, такие как исследователь Нильс Провос, положительно оценивают подобные инициативы. По мнению специалистов, наличие четких инструментов для внедрения систем защиты помогает опровергнуть миф о невозможности контроля над поведением автономных ИИ-агентов.
Расширение экосистемы безопасности и влияние Nvidia на рынок
Помимо официального списка партнеров, активно внедряющих OpenShell, существуют определенные неясности относительно масштабов этого сотрудничества. Пока не до конца понятно, является ли интеграция инструментов Nvidia повсеместной среди всех заявленных участников коалиции или же компания делает скорее «широкий жест» в сторону индустрии. Примечательным остается факт полного отсутствия OpenAI в перечне компаний, опубликованном Nvidia, несмотря на то что обе организации подтверждали участие OpenAI в усилиях вокруг OpenShell. Ни одна из сторон не предоставила прямых комментариев относительно причин исключения ИИ-лаборатории из официального анонса.
Аналитики отмечают, что Nvidia фактически оказывается в центре всех значимых отраслевых инициатив, связанных с безопасностью искусственного интеллекта. Будучи самой дорогой компанией в мире, чьи высокопроизводительные чипы лежат в основе инфраструктуры почти всей технологической индустрии, Nvidia планомерно выстраивает свое влияние на всех уровнях стека ИИ-технологий — от кремниевых пластин до прикладного программного обеспечения безопасности.
Контекст появления инструментов и работа над ошибками
Инженеры по безопасности и эксперты по вопросам ИИ начали всерьез обсуждать необходимость мониторинга и изоляции агентного ИИ задолго до недавних скандалов, связанных с «выходом из-под контроля» автономных систем. Еще в марте текущего года в анонсе OpenShell компания Nvidia подчеркивала, что фреймворк добавит необходимые элементы контроля, чтобы сделать саморазвивающиеся автономные ИИ-агенты более надежными. Важно отметить, что эти предостережения были озвучены за несколько месяцев до того, как сама OpenAI раскрыла факт взлома своих агентов разработчиками из Hugging Face (компании, которую Nvidia планирует приобрести за 12,9 миллиарда долларов).
Специалисты указывают, что текущие инциденты, получившие широкую огласку, лишь подчеркивают необходимость возврата к базовым принципам кибербезопасности даже внутри «триллионных» передовых лабораторий. Растущая активность ИИ-агентов требует от разработчиков переосмысления того, что на самом деле означает для автономного программного обеспечения «стать неуправляемым».
«Агенты проявляют высокую изобретательность в поиске путей достижения поставленных перед ними целей, — комментирует Джастин Боитано. — С нашими инструментами агенты получают доступ только к тем намерениям, которые им делегирует команда безопасности».
Архитектурная универсальность и цели независимого обмена данными
Одной из главных проблем текущего момента является разрозненность систем защиты. Джастин Боитано подчеркивает, что большинство существующих «песочниц» были спроектированы для изоляции на уровне конкретных приложений, тогда как современные реалии требуют управления целыми флотилиями агентов. Это создает потребность в единой политике безопасности, которая могла бы масштабироваться на все задействованные системы.
Что касается программы Shared AI Findings Exchange (SAFE), запущенной в рамках июльской коалиции, Nvidia настаивает на принципах децентрализованного управления. Несмотря на центральную роль чипмейкера, декларируется, что SAFE должна управляться независимо, без доминирования отдельного сегмента рынка или компании. Это критически важно для формирования доверия между конкурентами, которые вынуждены совместно бороться с угрозами, исходящими от «агентного» ИИ. Нильс Провос, эксперт, представивший собственную систему для мониторинга агентов еще в феврале, отмечает, что любые усилия, упрощающие внедрение защитных барьеров (guardrails) в процесс развертывания ИИ, должны всячески приветствоваться, так как они разрушают укоренившийся миф о невозможности обуздать поведение автономных алгоритмов.
