Ускорителю Nvidia Tesla V100 уже восемь лет, но в задачах локального запуска нейросетей он до сих пор не утратил актуальности. Как выяснилось, в реальных сценариях эта старая видеокарта справляется лучше гораздо более свежих решений, таких как RTX 3060 12 ГБ и Radeon RX 7800 XT 16 ГБ.
Тесты провел автор YouTube-канала Hardware Haven, собравший необычный ПК на базе Tesla V100 SXM2. Когда-то эти ускорители стоили тысячи долларов и применялись в дата-центрах для обучения ИИ, а сегодня их можно приобрести на вторичном рынке примерно за 100 долларов.
Разумеется, просто установить такую карту в обычный компьютер не получится. Для запуска энтузиасту потребовались специальный SXM-to-PCIe адаптер, дополнительное питание и кастомная система охлаждения с 3D-печатным воздуховодом и вентилятором. Итоговая стоимость всей сборки составила около 235 долларов.
Результаты тестов оказались весьма показательными. Например, в задаче GPT-oss 20B карта выдала около 130 токенов в секунду, что заметно быстрее Radeon RX 7800 XT с её 90 токенами в секунду. В тесте с моделью Gemma 4B ускоритель Tesla V100 также уверенно обошел RTX 3060 12 ГБ, показав 108 токенов против 76.
Удивила и энергоэффективность: даже при ограничении мощности до 100 Вт V100 сохраняла преимущество над RTX 3060 как по скорости генерации, так и по показателю «токены на ватт». Фактически, эксперимент доказал, что старые серверные GPU остаются крайне выгодным вариантом для запуска нейросетей, если пользователь готов проявить смекалку при сборке системы.
Главным преимуществом таких карт остается высокая пропускная способность памяти HBM2 и узкая специализация на вычислениях. Для энтузиастов ИИ эти характеристики нередко оказываются ценнее, чем современные игровые технологии. Особый интерес представляет 32-гигабайтная версия Tesla V100, которую сейчас можно найти за 400–500 долларов. Она может стать отличным решением для запуска тяжелых LLM-моделей, особенно на фоне высоких цен на современные потребительские видеокарты.
