Развитие небольших моделей ИИ для ПК угрожает OpenAI и Anthropic

Американские исследователи пришли к выводу, что компактные ИИ-модели (SLM), работающие непосредственно на локальных компьютерах, способны эффективно решать большинство задач, которые сейчас делегируют крупным центрам обработки данных. Как сообщает агентство Reuters, постепенный переход к менее ресурсоёмким технологиям ставит под удар бизнес-модели и высокие рыночные оценки таких гигантов отрасли, как OpenAI и Anthropic.

В ходе масштабного тестирования ученые сравнили производительность малых языковых моделей, запущенных на обычных Mac и ПК, с серверными платформами, предоставляющими доступ к большим языковым моделям (LLM). Исследование включало обработку 500 тысяч стандартных запросов и такое же количество задач на логическое мышление. Результаты показали, что в более чем 80% случаев локальные SLM не уступают, а порой и превосходят крупные LLM. В таких сферах, как продажи, менеджмент и развлечения, показатель успешности локальных моделей приблизился к 100%. Что касается сложных вычислений, то здесь SLM справляются на уровне больших моделей в 50% ситуаций — для сравнения, всего два года назад этот показатель составлял лишь 8%.

SLM против LLM в разных областях:

Ключевым драйвером развития SLM стал значительный рост эффективности «интеллект на ватт» (intelligence per watt), который за последние два года увеличился более чем в пять раз. Это позволяет локальным системам потреблять на 50–80% меньше энергии при сохранении высокой точности ответов. На фоне этих изменений компания Nvidia еще 1 июня анонсировала новую ИИ-платформу для Windows, подтверждая, что индустрия начинает активно адаптироваться к десктопным вычислениям, выходя за рамки привычных дата-центров.

Аналитики Reuters отмечают, что смещение вектора развития в сторону небольших моделей на базе открытого исходного кода может существенно снизить прибыль коммерческих провайдеров. Более того, это ставит под вопрос оправданность текущих капитализаций таких компаний, как SpaceX с их проектом xAI, которые оцениваются инвесторами в 2,85 трлн долларов на волне ИИ-бума. Поскольку локальный запуск моделей не требует использования дорогостоящих ускорителей (GPU, TPU, Trainium), необходимость в строительстве гигантских инфраструктурных объектов снижается. Это может привести к сокращению капитальных затрат и замедлению роста производителей полупроводников.

Йоахим Клемент, инвестиционный стратег Panmure Liberum, считает, что главными бенефициарами этой трансформации станут производители компьютеров, включая Apple. По мнению эксперта, недавний выход Nvidia на рынок десктопных ИИ-систем — это не просто стратегия диверсификации, а попытка застраховать бизнес от рисков и сохранить влияние в отрасли, независимо от того, какой вектор развития выберет технологический рынок в будущем.