Расширение линейки NVIDIA Jetson: анонс Orin Nano 2

Расширение линейки NVIDIA Jetson: анонс Orin Nano 2

На текущей неделе NVIDIA неожиданно расширила серию встраиваемых вычислительных плат Jetson, представив модель Jetson Orin Nano 2. Эта новая плата начального уровня для периферийных вычислений (edge AI) призвана дополнить актуальное семейство Jetson Orin, предлагая клиентам решение, которое превосходит оригинальный Nano, но при этом позиционируется ниже более мощной и дорогостоящей модели Jetson Orin NX.

По заявлениям NVIDIA, обновленный Nano 2 демонстрирует двукратный прирост производительности в задачах ИИ, либо обеспечивает аналогичный уровень производительности при снижении энергопотребления на 40%. При этом устройство полностью совместимо с существующим программным стеком Jetson Orin, который компания развивала на протяжении последних лет. Несмотря на то, что на первый взгляд выпуск еще одной модификации в линейке Orin кажется рядовым событием, детальный анализ показывает, что за этой платой стоит нечто большее, чем просто маркетинговое позиционирование — NVIDIA спроектировала для этого SKU совершенно новый чип.

Технические особенности и архитектурные изменения

При сравнении с предшественником Jetson Orin Nano 2 получил ряд аппаратных улучшений. Количество ядер Arm Cortex-A78 увеличено на два, что доводит их общее число до восьми. Теоретическая тензорная пропускная способность графического процессора была повышена до 78 TOPS для вычислений INT8. Кроме того, вместо памяти LPDDR5-6400 объемом 8 ГБ установлена более быстрая память LPDDR5X-7500.

Возникает закономерный вопрос: как именно удалось достичь 78 TOPS в Nano 2, что в два раза выше показателей 67 TOPS у первого поколения Nano, и как удалось внедрить поддержку памяти LPDDR5X, которая является отдельным суперсетом LPDDR5, спустя почти пять лет после разработки оригинального кремния Orin? Разгадка кроется в том, что в основе Jetson Orin Nano 2 лежит абсолютно новый кристалл.

Усовершенствования микроархитектуры

Как уточнили представители NVIDIA на брифинге, новый безымянный чип по-прежнему опирается на архитектуру Orin, сочетая ядра CPU Arm Cortex-A78 и GPU с архитектурой Ampere, однако содержит ранее не представленные улучшения. Во-первых, внедрена поддержка стандарта LPDDR5X, что делает данный продукт первым в серии Orin с доступом к более скоростной памяти.

Во-вторых, компания реализовала «архитектурные и микроархитектурные» доработки GPU Ampere, направленные на повышение реальной производительности 32 тензорных ядер в задачах искусственного интеллекта. Несмотря на то, что пиковая теоретическая производительность выросла лишь на 16%, NVIDIA утверждает, что объем реально выполняемой работы увеличился в два раза. Это означает, что новая архитектура позволяет извлечь из «железа» значительно больше ресурсов, чем это было возможно ранее. Точный характер этих изменений, выходящих за рамки простого увеличения количества функциональных блоков, станет понятен после поступления оборудования в продажу и обновления публичной документации.

Показатели эффективности и позиционирование

Внедренные оптимизации существенно изменили кривую зависимости производительности от энергопотребления. В режиме 15 Вт модель Nano 2 обеспечивает производительность на уровне первого поколения Nano при 25 Вт, что подтверждает 40% экономию энергии. В режиме 40 Вт новый Nano 2 способен выдать вдвое большую производительность, чем Nano 1 при своем пиковом потреблении в 25 Вт. Хотя более высокий уровень TDP (сравнимый с Orin NX) вносит вклад в общий результат, достигнутые показатели энергоэффективности свидетельствуют о серьезной работе над архитектурой.

Jetson Orin Nano 2 будет соседствовать с оригинальным Nano в сегменте начального уровня, предлагая пользователям 8 ГБ оперативной памяти. NVIDIA ориентирует данный продукт на широкий спектр применения, охватывающий классическую робототехнику, беспилотные летательные аппараты и системы компьютерного зрения.

Актуальная линейка NVIDIA Jetson и перспективы архитектуры Orin

В текущей конфигурации продукты Orin NX и Orin AGX сохраняют за собой статус основных решений в семействе NVIDIA Jetson, в то время как более производительная серия Jetson T на базе архитектуры Thor позиционируется в премиальном сегменте. Без учета вариаций по объему памяти современная линейка аппаратного обеспечения Jetson теперь насчитывает девять различных продуктов, что делает её самой обширной за всю историю существования платформы.

Заполнение ниши после отмены Atlan

Разработка нового SoC Orin открывает перед компанией широкий спектр возможностей и влечет за собой серьезные последствия. Впервые в истории NVIDIA проводит обновление продукта серии Jetson Nano подобным образом. В предыдущих поколениях существовало несколько SKU (артикулов) Nano, однако все они изначально базировались на чипах, спроектированных для соответствующих поколений аппаратного обеспечения. В частности, для поколения Orin это означало использование чипа с 12 ядрами CPU и 2048 ядрами CUDA, где для нужд Nano половина ядер и шина памяти были программно ограничены, а такие компоненты, как специализированный ускоритель глубокого обучения (DLA), оставались незадействованными. Это делало оригинальный Orin относительно дорогим в производстве, так как NVIDIA оплачивала выпуск функционально избыточных участков кремния, изготовленных по 8-нм техпроцессу Samsung.

Ключевой вопрос заключается в том, был ли новый чип Orin спроектирован как удешевленная версия специально для рынка Nano. Существует вероятность, что NVIDIA выпустила «Orin Lite» — архитектуру с 8 ядрами CPU и 1024 ядрами CUDA, оптимизированную под нужды начального уровня. Учитывая, что NVIDIA обязалась поддерживать выпуск Orin NX до 2032 года, в текущей линейке практически не остается места для промежуточных решений.

Интересно, что данный шаг предпринят спустя четыре года после отмены проекта Atlan — ARM-процессора, который должен был сменить Orin в 2024 году. Хотя NVIDIA частично компенсировала этот пробел чипом Thor, его стоимость и габариты сделали его неэффективным для использования в новых продуктах Nano. В отсутствие Atlan именно Orin взял на себя эту нагрузку, а четырех лет достаточно для разработки нового чипа в ответ на отмену предыдущего проекта.

Выбор архитектуры Ampere и рыночные амбиции

Вызывает любопытство решение NVIDIA создать новый ИИ-чип на базе архитектуры Ampere. Несмотря на актуальность в свое время, Ampere не поддерживает форматы точности FP8 и FP4, ограничиваясь лишь INT8. Поддержка FP4 могла бы обеспечить двукратный прирост пропускной способности тензорных ядер, что крайне востребовано для бюджетных граничных (edge) вычислений. Тем не менее, интеллектуальная собственность (IP) Orin доступна для 8-нм техпроцесса Samsung, тогда как наработки по Thor ориентированы на 4-нм и 3-нм техпроцессы TSMC, которые уже перегружены заказами на другие ИИ-продукты.

Расширение линейки Jetson Orin новым, существенно более быстрым модулем Nano и создание отдельного специализированного чипа свидетельствуют о том, что направление граничных вычислений и робототехники NVIDIA выросло в крупный самодостаточный сегмент. Инвестиции в разработку нового чипа Orin означают, что компания рассчитывает окупить затраты в течение жизненного цикла продукта. Это отход от прежней стратегии, когда поколения Jetson опирались на мобильные чипы, используемые в широком спектре решений, вплоть до автомобильных систем DRIVE.

Индустрия в целом активно развивает направление «физического ИИ» и робототехники. Новый Jetson Orin Nano подтверждает амбиции NVIDIA на рынке граничного ИИ начального уровня и масштаб ожидаемого спроса. Согласно традиции анонсов NVIDIA Jetson, аппаратное обеспечение представлено за несколько месяцев до выхода: релиз Jetson Orin Nano 2 намечен на первую половину 2027 года. Стоимость устройства на данный момент не разглашается.

Почему разработка нового чипа — важный этап для NVIDIA

С технической точки зрения создание нового кремния для Jetson Orin Nano 2 подчеркивает стремление компании к оптимизации производства. Оригинальный Orin, используемый в старших моделях, базируется на 12-ядерном CPU и 2048 ядрах CUDA. В предыдущих версиях Nano этот чип использовался в урезанном виде: с отключенной половиной ядер, суженной шиной памяти и неактивным ускорителем глубокого обучения (DLA). Это создавало ситуацию, при которой NVIDIA фактически оплачивала производство «функционально темного» кремния (неиспользуемых транзисторов), что делало себестоимость продукции выше необходимой. Разработка специализированного решения, по сути, «Orin Lite» с 8 CPU и 1024 CUDA, позволяет устранить эту избыточность, адаптируя кристалл непосредственно под нужды рынка бюджетных встраиваемых систем.

Контекст отмены Atlan и роль архитектуры Ampere

Интересно проследить хронологию этого решения: новый анонс произошел спустя примерно четыре года после отмены проекта Atlan — Arm-процессора, который изначально планировался как преемник Orin с расчетом на 2024 год. За это время NVIDIA анонсировала SoC Thor, однако его высокая стоимость и габариты сделали его нецелесообразным для интеграции в компактные решения уровня Nano. Отсутствие Atlan создало стратегическую пустоту, которую NVIDIA успешно заполнила, выделив время на проектирование нового Orin-совместимого чипа.

При этом выбор архитектуры Ampere для свежей разработки выглядит неоднозначным решением. Хотя она остается надежной и проверенной, отсутствие аппаратной поддержки форматов FP8 и FP4 ограничивает возможности чипа в задачах будущего. В частности, поддержка FP4 потенциально могла бы удвоить тензорную пропускную способность по сравнению с INT8, что является крайне желательным параметром для современных периферийных вычислений. Однако выбор в пользу Ampere обусловлен доступностью уже отлаженной интеллектуальной собственности (IP) для 8-нм техпроцесса Samsung. В то же время техпроцессы 4 нм и 3 нм, на которых базируется Thor, перегружены заказами на высокопроизводительные ИИ-продукты компании, что делает текущую разработку на базе Ampere наиболее экономически оправданной и доступной для массового внедрения.

Масштабирование рыночного сегмента

Факт создания отдельного чипа под конкретный продукт — сигнал о том, что для NVIDIA направление граничных вычислений и робототехники окончательно превратилось в крупный и самодостаточный рыночный сегмент. Ранее поколения Jetson опирались на мобильные процессоры, которые переносились в другие ниши, вплоть до автомобильных систем DRIVE, что позволяло распределять затраты на разработку на широкий спектр устройств. Создание специализированного чипа для Orin Nano 2 ломает эту традиционную модель, подтверждая, что компания ожидает достаточно высоких объемов продаж в сегменте «физического ИИ» и начального уровня Edge AI, чтобы окупить прямые инвестиции в проектирование нового кремния.