Компания Meta задействует серверные системы на базе процессоров AMD EPYC поколения Turin для обеспечения работы своего нового ИИ-агента Muse. Согласно данным аналитиков Эвана Хоффмана и Тэ Кима, каждый пользователь при взаимодействии с сервисом получает доступ к изолированной «песочнице», технические ресурсы которой ограничены двумя выделенными вычислительными ядрами и 8 ГБ оперативной памяти.
Особенности конфигурации и возможности ИИ-агента
В ходе исследования ИИ-агент раскрыл информацию о своей программно-аппаратной среде в ответ на прямые запросы пользователей. Выяснилось, что в качестве аппаратной основы применяются процессоры AMD EPYC 9D25 — высокоплотные чипы архитектуры Turin, поддерживающие до 128 ядер. Программная часть виртуальных машин функционирует под управлением операционной системы Ubuntu 24.04 с ядром Linux версии 7.0.
Принципиальной особенностью архитектуры хостов является отсутствие графических ускорителей непосредственно в узлах с ИИ-агентами. По словам самого Muse, компания Meta использует для задач логического вывода (inference) отдельные серверные конфигурации, оснащенные GPU, тогда как для работы самих агентов выделены изолированные CPU-ориентированные «песочницы».
Безопасность и масштабируемость системы
Анализ возможностей Muse показал, что агент способен выполнять базовые команды терминала Ubuntu. Однако система имеет ограничения: например, попытки запроса данных из буфера ядра завершались неудачей из-за отсутствия необходимых прав доступа, что указывает на блокировку выполнения sudo-команд. Тем не менее эксперты отмечают потенциальные риски безопасности. Хоффман сообщил, что ИИ предлагал настроить SSH-соединение с частной виртуальной машиной, что при использовании обратного SSH-туннеля может позволить обходить сетевые экраны.
Что касается масштабируемости, сервис Muse уже преодолел отметку в 500 000 ежедневных активных пользователей. Учитывая, что двухпроцессорная серверная система с чипами EPYC 9D25 может обладать 512 vCPU и 2 ТБ оперативной памяти, один серверный модуль способен поддерживать около 256 одновременных сессий пользователей. По приблизительным оценкам, для обслуживания текущей аудитории Meta требуется около 2000 серверных стоек с соответствующей конфигурацией. Использование процессоров EPYC обусловлено высокой плотностью ядер, что является критически важным фактором при масштабировании ресурса на сотни тысяч и миллионы пользователей. На данный момент приложение Muse доступно на платформах Android, iOS и macOS, а также через веб-браузер для владельцев учетных записей Meta.
Технические нюансы и потенциальные уязвимости
Хотя текущая реализация «песочниц» с жестким ограничением прав доступа демонстрирует определенный уровень защиты, исследователи продолжают изучать границы дозволенного для Muse. Тот факт, что агент блокирует прямой доступ к буферу ядра, свидетельствует о применении политик безопасности, однако теоретические векторы атак сохраняются. Главное опасение экспертов, включая Эвана Хоффмана, связано с предложением ИИ настроить SSH-соединение: использование обратного SSH-туннеля позволяет целевой машине инициировать подключение, что де-факто делает возможным обход межсетевых экранов. Хотя на данный момент случаев успешного выполнения вредоносных команд в системе зафиксировано не было, сама возможность ведения диалога о настройке таких соединений требует пристального внимания со стороны разработчиков Meta.
Особенности серверной инфраструктуры
Важно отметить, что приведенные расчеты по количеству серверного оборудования носят оценочный характер («napkin math»). Итоговая потребность в мощностях может варьироваться в зависимости от конфигурации системы, так как архитектура Turin обладает значительной гибкостью. Например, использование модулей памяти высокой плотности позволяет нарастить объем оперативной памяти до 6 ТБ на серверный узел. Более того, Meta может комбинировать в рамках одной инфраструктуры различные модели процессоров, оптимизируя затраты на CPU-ориентированные «песочницы». Высокая плотность ядер остается главным фактором выбора именно линейки EPYC, так как даже при выделении всего двух ядер на одного пользователя, совокупная нагрузка при масштабировании на миллионную аудиторию требует наиболее эффективных решений по соотношению производительности на ватт и занимаемой площади в дата-центре.
