Компании Palantir и NVIDIA объявили о внедрении суверенного стека ИИ-решений, предназначенного для управления цепочками поставок. Первым заказчиком и площадкой для тестирования новой технологии стала сама NVIDIA: система уже развернута для контроля процесса сборки стоек Vera Rubin, каждая из которых состоит из 1,3 миллиона деталей. По заявлению NVIDIA, цепочка поставок для новой платформы в два раза масштабнее, чем для системы Grace Blackwell.
Функциональные возможности командного центра
Новый стек объединяет открытые модели NVIDIA Nemotron с платформой Palantir AIP (Artificial Intelligence Platform) и системой Palantir Foundry, опираясь на общую онтологию данных Palantir. Цель совместной разработки — обеспечить специалистам по планированию полную прозрачность всей цепочки поставок, своевременно выявлять производственные ограничения и формализовать операционные решения, которые ранее зависели исключительно от опыта сотрудников.
Интеграция создает своего рода «общий командный центр» для распределения материалов. Команды могут быстрее оценивать альтернативы, моделировать сценарии и принимать решения с учетом их влияния на конечное производство. Генеральный директор NVIDIA Дженсен Хуанг подчеркнул сложность таких систем, отметив, что цепочки поставок являются «операционной системой физической экономики». В свою очередь, глава Palantir Алекс Карп охарактеризовал логистику NVIDIA как одну из самых ценных и запутанных в мире.
Технологии оптимизации и «человек в цикле»
Система базируется на использовании модели Nemotron 3.5 Lightning (30 миллиардов параметров, из которых 3 миллиарда активны при проходе). Этот вариант был выбран вместо более крупной модели Nemotron 3 Ultra из-за эффективности в агентных рабочих процессах. Клиенты Palantir могут выполнять дообучение моделей на собственных операционных данных в среде Foundry, используя библиотеки NVIDIA NeMo Data для подготовки и дополнения информации. Оптимизацию и сценарное моделирование обеспечивает инструмент NVIDIA cuOpt.
Внедренная модель выдает рекомендации, объясняет потенциальные риски и компромиссы, однако окончательное решение остается за экспертом-человеком. Система Palantir Autopilot в связке с библиотеками NeMo AutoModel и NeMo RL замыкает цикл: действия планировщика и итоговые показатели производства передаются обратно для улучшения модели. Это позволяет сохранять накопленный операционный опыт внутри компании.
Эффективность подхода подтверждается внутренними тестами NVIDIA: модель Lightning после дообучения с использованием LoRA-адаптеров показала точность 86,7% на задачах по распределению ресурсов. Это на 31,2 процентного пункта выше результатов базовой модели Nemotron 3 Ultra.
Безопасность и архитектура суверенного ИИ
Развертывание осуществляется на базе референсной архитектуры Palantir Sovereign AI Operating System (SAIOS), которую поддерживают Dell Technologies и Cisco. Такая архитектура гарантирует, что проприетарные данные, веса моделей и процессы вывода остаются внутри защищенного контура. Стек может быть развернут как локально на оборудовании Cisco или Dell, так и в облачных средах Rackspace и Nebius.
Партнеры планируют масштабировать данный опыт на другие отрасли, включая энергетику, здравоохранение, сельское хозяйство, розничную торговлю и авиакосмическую промышленность. Подробную демонстрацию стека и его отраслевых применений компании намерены провести на мероприятии AIPCon 11.
Технические особенности внедрения и дообучения
Интересен подход NVIDIA к технической реализации: дообучение выбранной модели Nemotron 3.5 Lightning на собственных данных компании заняло всего несколько минут и выполнялось на двух графических ускорителях B200. При этом использовался метод LoRA-адаптеров, что позволило оставить базовые веса модели «замороженными». Для сравнения: точность дообученной версии Lightning (86,7%) оказалась на 69,2 процентного пункта выше, чем у исходной базовой модели без настройки, что наглядно демонстрирует эффективность обучения компактных моделей на специфических операционных данных организации по сравнению с использованием более массивных, но «общих» решений.
Важным компонентом архитектуры является интеграция NeMo Data Libraries, которые применяются для подготовки и аугментации данных внутри сред Foundry и AIP перед подачей в модель. Это позволяет создавать более качественную выборку, на которой впоследствии обучаются агентные рабочие процессы.
Решение критических задач цепочки поставок
На текущем этапе внедрение сосредоточено на вопросах распределения материалов — критически важном процессе, определяющем, как быстро стойка Vera Rubin проходит путь от кремниевой пластины до получения первого токена. Сложность задачи обусловлена тем, что для сборки систем такого масштаба необходимо синхронное поступление компонентов памяти, вычислительных мощностей, сетевого оборудования, систем охлаждения и механики от тысяч поставщиков по всей глобальной производственной сети.
С помощью стека NVIDIA и Palantir планировщики получают возможность:
- Выявлять ограничения на ранних этапах, еще до возникновения дефицита.
- Оценивать компромиссы при выборе альтернативных поставщиков или путей логистики.
- Моделировать операционный эффект от конкретного решения по распределению ресурсов до того, как оно будет приведено в исполнение.
Таким образом, компании стремятся формализовать «операционное суждение», которое раньше существовало только в головах ключевых специалистов, обеспечивая непрерывность знаний даже при смене кадрового состава.
Масштабируемость и суверенитет данных
Концепция «суверенного ИИ» (Sovereign AI) в данном решении означает, что проприетарная информация компании остается внутри строго управляемой среды. Референсная архитектура SAIOS (Palantir Sovereign AI Operating System), помимо Dell и Cisco, допускает гибкое развертывание в инфраструктурах Rackspace и Nebius, что делает систему доступной для широкого спектра отраслей. В планах у разработчиков адаптация стека для секторов фармацевтики, производства, энергетики, автомобилестроения и государственного управления, результаты чего будут представлены на предстоящей конференции AIPCon 11.
