Тег: инференс
Европейские стартапы обещают обогнать ИИ-чипы Nvidia по эффективности в 100 раз...
Разработчики из ЕС готовят альтернативные архитектуры для инференса ИИ, превосходящие GPU Nvidia по энергоэффективности в 100 раз, но сталкиваются с дефицитом капитала и производственных мощностей.
SRAM какой-то: Nvidia представила чип Groq 3 LPU для ускорения инференса...
Nvidia интегрирует технологии Groq в свою платформу Rubin, представив чип Groq 3 LPU для ускорения инференса ИИ-моделей на уровне токенов с использованием памяти SRAM.
