ИИ-агенты нового поколения способны потреблять до 136,5 раза больше электроэнергии при выполнении одного запроса, чем традиционные генеративные чат-боты. К такому выводу пришла команда исследователей из Корейского института науки и технологий (KAIST), представив результаты первого комплексного анализа энергозатрат автономных интеллектуальных систем.
Принципиальное отличие ИИ-агентов заключается в их методе работы: вместо формирования разового ответа система многократно обращается к большим языковым моделям (LLM), выполняет поиск в сети, запускает программный код и взаимодействует с внешним инструментарием. Подобная автономия позволяет решать сложные задачи в автоматизации и программировании, однако она требует колоссальных вычислительных мощностей.
Группа под руководством профессора Минсу Рю из Школы электротехники KAIST проанализировала ИИ-агентов как специфический тип нагрузки на дата-центры, используя сценарии, максимально приближенные к реальным условиям эксплуатации.
Эксперименты показали, что ИИ-агенты увеличивают время обработки одного запроса до 153,7 раза по сравнению с методом последовательных цепочек рассуждений (chain-of-thought). При этом выяснилось, что графические ускорители, на которых развернуты системы, простаивают без активных вычислений до 54,5% времени, ожидая завершения отклика от внешних инструментов. Несмотря на отсутствие нагрузки на GPU, энергопотребление оборудования в режиме ожидания остается значительным.
Для ИИ-агента, использующего языковую модель с 70 млрд параметров, среднее потребление электроэнергии на один запрос составило 348,41 ватт-час. Для сравнения, обычный чат-бот при ответе на стандартный вопрос тратит в 136,5 раза меньше энергии.
В ходе моделирования ученые рассчитали потенциальную нагрузку при обработке 13,7 млрд запросов в день — объема, сопоставимого с ежедневным трафиком поисковой системы Google. В таких условиях инфраструктуре потребовалось бы порядка 198,9 ГВт. Это составляет почти половину средней мощности, потребляемой всей энергосистемой США, что наглядно демонстрирует масштаб проблемы для современных дата-центров.
Ведущие игроки рынка, включая OpenAI, Google, Microsoft и Anthropic, делают ставку на ИИ-агентов как на логическое продолжение развития разговорных моделей. Однако исследование KAIST подчеркивает, что масштабирование технологии упирается в физические и энергетические ограничения. По словам Минсу Рю, конкуренция в индустрии неизбежно сместится от гонки за «интеллектом» к поиску энергоэффективных архитектурных решений, оптимизации загрузки GPU и расширению энергетической инфраструктуры.
Результаты работы были официально представлены на международном симпозиуме IEEE по архитектуре высокопроизводительных вычислений (HPCA). Авторы исследования также предоставили открытый доступ к наборам тестов, которые помогут индустрии эффективнее оценивать и снижать издержки на электроэнергию в сфере ИИ.
