Google разрабатывает специализированный серверный процессор Frozen v2, в котором модель Gemini не будет загружаться в память, а станет частью самого чипа. По данным The Information, такая конструкция может повысить энергоэффективность в 6–10 раз по сравнению с нынешними ускорителями Google.
Компания официально проект не подтвердила, а его возможное появление ожидается не раньше 2028 года.
Современные ускорители моделей искусственного интеллекта остаются универсальными: модель хранится в памяти, а процессор постоянно обменивается с ней данными во время работы. В случае Frozen v2 сама структура нейронной сети Gemini будет зашита в кремний. Обновлять можно будет только веса модели — параметры, полученные во время обучения, — тогда как архитектура останется неизменной. Насколько глубоко она будет интегрирована в аппаратную часть, пока ещё определяется.
Изображение сгенерировано: Nano Banana
Главная цель такого подхода — эффективность. По информации The Information, новый процессор сможет обслуживать в 6–10 раз больше токенов (единиц, которыми оперируют большие языковые модели) на единицу потребляемой энергии, чем нынешние специализированные чипы Google.
Frozen v2 рассматривается как отдельная линейка процессоров, которая дополнит, а не заменит существующие TPU.
Разработка также связана с дефицитом вычислительных ресурсов внутри Google. Нехватка мощностей уже настолько велика, что Google Cloud была вынуждена отказать части внешних клиентов. Чем ниже энергопотребление и выше производительность одного чипа, тем дешевле становится обслуживание миллиардов запросов к ИИ и тем меньше требуется серверов для той же нагрузки.
Похожую концепцию уже продвигает стартап Taalas, который создаёт чипы с заранее запечатанными внутри архитектурой и весами модели. Однако у такого подхода есть и недостаток: искусственный интеллект развивается очень быстро, и аппаратное решение, рассчитанное на сегодняшнюю архитектуру версии Gemini, к моменту выхода может просто устареть. Пока Google подтверждает лишь то, что экспериментирует с высокоэффективными вычислительными решениями, а Frozen v2 остаётся проектом, о котором известно только из публикаций СМИ.
