Домой ИИ и технологии Маск представил систему для ускорения обучения ИИ в 10 раз

Маск представил систему для ускорения обучения ИИ в 10 раз

Система взаимодействует с «железом» напрямую и обходит JAX по производительности в 10 раз.

Илон Маск поделился подробностями о новой амбициозной разработке в области инфраструктуры для обучения искусственного интеллекта. Команда SpaceX практически завершила создание первой версии собственной системы, написанной на языке C, которая взаимодействует с «железом» серверов практически напрямую.

Низкоуровневая оптимизация вычислений

В основе проекта лежит технология, обеспечивающая взаимодействие программного кода с огромным вычислительным кластером. Система спроектирована для работы с массивом из примерно 220 000 ускорителей Nvidia GB300, объединенных сетевыми интерфейсами 800G. Основной задачей разработчиков было создание архитектуры, максимально использующей возможности параллельных вычислений при минимуме промежуточных программных слоев.

Маск представил систему для ускорения обучения ИИ в 10 раз
Маск представил систему для ускорения обучения ИИ в 10 раз — иллюстрация к материалу. Источник: ixbt.com

Такой подход позволяет существенно снизить задержки, возникающие при передаче данных, и значительно повысить общую эффективность аппаратного комплекса. Фактически, разработчики стремятся убрать все лишние звенья между алгоритмами и «железом», чтобы ресурсы видеокарт использовались на пределе своих технических возможностей.

Прорыв в скорости обучения

Илон Маск подчеркнул, что новая программная реализация может дать колоссальный прирост производительности при выполнении масштабных обучающих задач. По его предварительным оценкам, система способна оказаться более чем в 10 раз быстрее, чем JAX — современный фреймворк для машинного обучения, который на текущий момент считается стандартом для сложных вычислительных процессов.

Источник: https://www.ixbt.com