Компания Axelera AI начала поставки процессоров Europa, представляющих собой второе поколение AI Processing Unit (AIPU). Новые решения ориентированы на организацию локальных вычислений в стандартных стоечных серверах на предприятиях финансового сектора, здравоохранения, юридической сферы и государственного управления, где требования безопасности и суверенитета данных исключают использование публичных облаков. Процессор поставляется в виде отдельного кристалла, а также в составе плат расширения: половинной высоты и длины Axelera Edge 232p и полноразмерной Axelera Server 250p.
Производительность и характеристики процессора Europa
Согласно официальным данным производителя, производительность процессора Europa достигает 629 TOPS при обработке данных в форматах INT4, INT8 или INT16 в рамках теплопакета 45 Вт. Чип создан на базе восьми процессорных ядер второго поколения — это вдвое больше по сравнению с предшественником в лице чипа Metis. Конфигурация включает 16 векторных ядер RISC-V, отвечающих за предварительную и финальную обработку данных прямо на кремнии, что разгружает центральный процессор хоста. Также предусмотрен встроенный видеодекодер для работы с потоками компьютерного зрения без передачи кадров через системную память. Подсистема памяти представлена 128 МБ кэша L2 SRAM и пропускной способностью DRAM на уровне 200 ГБ/с. Производство кремния осуществляется по 5-нм техпроцессу Samsung.
Внутренние тесты компании в сочетании с опубликованными данными конкурентов по бенчмаркам NIM для моделей Llama 3 8B, Llama 3 70B и Llama 3.2 11B Vision демонстрируют превосходство в 3–5 раз по показателю производительности на доллар и в 2–3 раза по энергоэффективности. Наилучших результатов удается добиться при задействовании четырехчиповой конфигурации. Плата Server 250p несет на борту четыре AIPU Europa, выстроенных в ряд, тогда как Edge 232p оснащается одним процессором. Оба решения выполнены в стандартных форм-факторах PCIe и устанавливаются в существующую инфраструктуру без ее перестройки.
Поддерживаемые серверные платформы и экосистема ПО
В настоящее время карта Edge 232p поставляется в составе сертифицированных систем от Dell (модель XE5) и Supermicro (модель 111AD). Данные платформы пополнили перечень валидированного OEM-оборудования, в который уже входят решения от Advantech, Axiomtek, HPE, Lenovo и Seco. По словам генерального директора и соучредителя Axelera AI Фабрицио Дель Маффео, архитектура чипа проектировалась с учетом жестких ограничений по питанию, энергии, стоимости и необходимости локальной обработки данных, что позволяет масштабировать технологию от физического до корпоративного уровня.
Программная экосистема опирается на инструментарий Voyager Toolchain, который компилирует и оптимизирует модели для всех чипов компании — от встраиваемых модулей Metis до сервера Server 250p. Использование конвейеров YAML позволяет переносить приложения без переписывания кода. В июле был представлен уровень разработки агентских систем Voyager Wingman, а незадолго до релиза компания раскрыла информацию о компиляторе AxeleraScript для расширения поддержки моделей. На сегодняшний день клиентская база Axelera насчитывает более 600 заказчиков.
Аппаратные особенности и экосистема Europa
Компания из Эйндховена позиционирует свои решения для широкого спектра задач: работы агентских систем, визуально-языковых моделей (vision-language models), генеративного искусственного интеллекта и компьютерного зрения. Чип Europa предлагается в трех различных вариантах: в виде «голого» кристалла для заказчиков, которые разрабатывают собственные платы, а также на базе двух стандартных PCIe-плат — упомянутых Axelera Edge 232p (половинной высоты и длины, с одним AIPU) и Axelera Server 250p (полноразмерной, несущей четыре AIPU Europa в ряд под снятым радиатором).
Генеральный директор и соучредитель Axelera AI Фабрицио Дель Маффео (Fabrizio Del Maffeo) выступил с докладом под названием «The Physical AI Inflection Point: Industry Shifts, Adoption Barriers, and the Infrastructure Imperative» на саммите AI Infra Summit в Санта-Кларе, где процессор Europa демонстрировался на стенде под номером 930. Процессор Europa призван доказать, что архитектура с первично-периферийной ориентацией (edge-first design) способна эффективно справляться с нагрузками, когда модель с 70 миллиардами параметров обслуживает множество пользователей одновременно с одного сервера.
Программный инструментарий и совместимость
Программная экосистема включает в себя несколько ключевых компонентов:
- Voyager Toolchain — инструмент, оптимизирующий существующие модели под любые компоненты Axelera (от встраиваемых модулей Metis до сервера Server 250p) с применением YAML-описаний конвейеров для бесшовного переноса приложений.
- Voyager Wingman — представленный в июле слой разработки агентских систем, который переносит существующие конвейеры выводов, создает новые и оптимизирует программный код.
- AxeleraScript (AxScript) — подход к компиляции моделей, раскрытый незадолго до релиза с целью расширения поддержки различных моделей, так как именно этот аспект часто становится главным ограничивающим фактором как для клиентов, так и для производителей кремния.
Что касается партнерской экосистемы, то модель Edge 232p на сегодняшний день поставляется в составе проверенных систем Dell XE5 и Supermicro 111AD. Они дополняют список валидированных OEM-платформ, куда также входят решения от Advantech, Axiomtek, HPE, Lenovo и Seco, причем в будущем компания планирует объявить о поддержке новых платформ.
