Похоже, что эра «память только для GPU» уходит в прошлое. Теперь и специализированные ИИ-процессоры становятся критическими потребителями памяти, сравнимыми по запросам с мощными графическими ускорителями. Как сообщает ресурс Sedaily, разработчики ИИ-процессоров активно обсуждают переход на значительно более внушительные объемы памяти в будущих поколениях чипов.
300–400 ГБ памяти в ИИ-процессорах
Индустрия стремится к оснащению будущих решений 300–400 ГБ памяти. Эти показатели выводят новые процессоры на один уровень с передовыми ИИ-ускорителями на базе GPU. Для наглядности можно сравнить текущие флагманы: у Nvidia Vera Rubin объем памяти составляет 288 ГБ, тогда как готовящийся к выпуску AMD Instinct 400 предложит уже 432 ГБ.
Важно учитывать, что в данном контексте речь идет о высокоскоростной памяти стандарта HBM. Она становится стандартом для высоконагруженных вычислений, хотя архитектуры, подобные Vera Rubin, используют комбинированные подходы, включая массивы памяти типа SOCAMM2.
Изменение баланса в дата-центрах
Если мы посмотрим на актуальные решения, например, TPU 8i от Google, то увидим показатель в 288 ГБ памяти. Для сравнения, многие серверные CPU прошлых поколений довольствовались лишь 100 ГБ. Рост объемов в три-четыре раза — это не просто прихоть инженеров, а необходимость, вызванная развитием агентного ИИ.
Тенденция оказывает серьезное влияние на рынок инфраструктуры ЦОД. Если еще недавно стандартное соотношение GPU к CPU в центрах обработки данных составляло 8:1, то сегодня оно уже сместилось к отметке 4:1. Эксперты прогнозируют, что в ближайшем будущем этот показатель может достичь соотношения 1:1. Столь резкое изменение происходит не из-за снижения потребности в графических ускорителях, а за счет массового наращивания вычислительных мощностей центральных процессоров, что неизбежно ведет к колоссальному росту потребления памяти в ИИ-ЦОД.
