Новые тесты демонстрируют, что профессиональный ускоритель Nvidia RTX PRO 6000 на архитектуре Blackwell способен обеспечить в задачах искусственного интеллекта производительность, сопоставимую с массивом из четырех потребительских карт GeForce RTX 5090. При этом энергопотребление профессионального решения оказывается значительно ниже.
Сравнительный анализ был представлен пользователем Steveibe в социальной сети X. В качестве эксперимента он выполнил запуск крупной языковой модели MiniMax M2.7, насчитывающей 230 миллиардов параметров, на различных конфигурациях оборудования Nvidia.
Для чистоты эксперимента применялась техника квантования IQ3_XXS. Этот метод сжатия оптимизирован для сценариев с ограниченным объемом видеопамяти, однако он остается достаточно ресурсоемким, чтобы максимально нагрузить 96 ГБ памяти, доступные в RTX PRO 6000 Blackwell. Параметры тестирования включали контекст 32K и лимит генерации ответа в 4096 токенов.
Результаты тестирования
Согласно полученным данным, связка из четырех GeForce RTX 5090 показала скорость генерации 120,54 токена в секунду, при этом время формирования первого токена составило 725 мс. Показатели одной RTX PRO 6000 Blackwell оказались практически идентичными: 118,74 токена в секунду и 765 мс до появления первого токена.
Для сравнения, массивы на базе других решений выступили скромнее:
- Четыре GeForce RTX 4090 — 71,52 токена в секунду.
- DGX Spark — 24,41 токена в секунду.
Энергоэффективность и стоимость
Ключевым преимуществом профессиональной карты является её энергоэффективность. В пиковых нагрузках четыре видеокарты GeForce RTX 5090 потребляют около 2300 Вт, а четыре RTX 4090 — около 1800 Вт. В то же время RTX PRO 6000 Blackwell потребляет всего 600 Вт, что в четыре раза меньше показателей потребительского флагмана.
Разница проявляется и в финансовых затратах. Стоимость одной RTX PRO 6000 Blackwell составляет около 9500 долларов, в то время как комплект из четырех GeForce RTX 5090 обойдется примерно в 14 000 долларов. Хотя DGX Spark стоит значительно дешевле (4700 долларов), его производительность в данных задачах заметно проигрывает более дорогим конфигурациям.
