Компании Intel и SambaNova представили уникальную гетерогенную архитектуру, предназначенную для оптимизации ИИ-инференса. Новое решение эффективно распределяет рабочие нагрузки между различными типами вычислительных устройств, что позволяет системе работать более слаженно и результативно.
Разработанная архитектура делит процесс логического вывода на несколько этапов, поручая каждый из них наиболее подходящему компоненту. Графические ускорители отвечают за предварительную обработку («ingest») входящих запросов и формирование кешей ключ-значение. Реконфигурируемые модули SambaNova SN50 специализируются на декодировании данных, а процессоры Intel Xeon 6 берут на себя координацию распределения ресурсов и выполнение сложных агентских задач, включая компиляцию кода и проверку качества ответов ИИ. Такое разделение труда призвано охватить широкий спектр задач и составить достойную конкуренцию решениям Nvidia.
Эксперты отмечают, что стратегия Intel и SambaNova по разделению этапов prefill, decode и генерации токенов во многом напоминает подход Nvidia, заложенный в будущую платформу Rubin (где эти функции поделят чипы Rubin CPX и Rubin GPU). Однако, в отличие от перспективного продукта Nvidia, совместное решение Intel и SambaNova будет готово к коммерческому внедрению уже во второй половине 2026 года.
Согласно внутренним тестам SambaNova, использование процессоров Xeon 6 обеспечивает значительное преимущество в производительности:
- Компиляция LLVM происходит на 50% быстрее по сравнению с серверными процессорами на архитектуре Arm.
- Работа с векторными базами данных выполняется на 70% эффективнее, чем на конкурирующих решениях x86 (включая чипы AMD EPYC).
По мнению разработчиков, такой рост производительности достигается за счет глубокой оптимизации взаимодействия компонентов, что ускоряет создание ИИ-приложений и кодирующих агентов.
Важным достоинством системы является её совместимость с инфраструктурой современных дата-центров с энергопотреблением до 30 кВт. Это освобождает бизнес от затратной необходимости радикально модернизировать системы охлаждения и электропитания. Кеворк Кечичян, исполнительный вице-президент Intel, подчеркнул, что надежный фундамент в виде архитектуры x86 делает процессоры Xeon идеальным выбором для будущих гетерогенных вычислений.
