Домой ИИ и технологии Инференс ИИ скоро подешевеет, но пользователи этого почти не заметят

Инференс ИИ скоро подешевеет, но пользователи этого почти не заметят

Новое поколение ускорителей снизит стоимость токенов, но рост потребления ресурсов и смена тарифов оставят затраты бизнеса на прежнем уровне.

Приложения и сервисы генеративного искусственного интеллекта дорожают с каждым днём, так как у разработчиков постоянно растут затраты на инфраструктуру. Новое поколение графических процессоров и специализированных ИИ-ускорителей обещает облегчить удовлетворение растущего спроса на инференс, то есть развёртывание искусственного интеллекта, но конечный потребитель едва ли заметит существенную экономию, сообщает авторитетное издание The Register.

Серверы и вычислительные центры для обработки ИИ
Источник изображения: BoliviaInteligente / unsplash.com Источник: 3dnews.ru

С момента начала глобального бума искусственного интеллекта прошло уже несколько лет. За это время разработчики успели потратить миллиарды долларов на создание новых моделей, и теперь на рынке стали появляться реальные сценарии практического применения ИИ. Наиболее яркими примерами служат такие инструменты для написания программного кода, как Claude Code, Codex и GitHub Copilot, за которыми вскоре последуют и другие продвинутые сервисы.

Главная техническая проблема заключается в том, что дата-центры, изначально предназначавшиеся для обучения нейросетей, совершенно не приспособлены для эффективного инференса — это принципиально разные задачи, требующие разного подхода к вычислениям. Ведущие производители оборудования уже активно решают эту проблему: Nvidia приобрела стартап Groq за 20 млрд долларов, а собственные специализированные ускорители готовят AMD, AWS, Intel и Google. Все они пытаются снизить ключевой показатель — стоимость генерации одного токена.

Появление более дешёвых токенов должно оптимизировать экономику проектов, а инвесторы искренне надеются, что такие гиганты, как OpenAI и Anthropic, наконец смогут выбраться из многомиллионных убытков. Однако аппаратное обеспечение нового поколения ещё не готово выйти на рынок. Хотя производители называют ориентиром вторую половину текущего года, на практике массового внедрения придётся ждать не раньше конца этого или середины следующего года.

Именно поэтому разработчики ИИ уже сейчас вынуждены поднимать цены на свои услуги. Например, модель OpenAI GPT-5.5 подорожала вдвое по сравнению со своей предшественницей, а новая Google Gemini 3.5 Flash стоит в 3–6 раз дороже, чем Gemini 3.1 Flash-Lite и Gemini 3 Flash Preview. Ситуация усугубляется тем, что современные ИИ-агенты, созданные на базе этих языковых моделей, потребляют значительно больше токенов по сравнению с привычными чат-ботами.

В результате создатели сервисов массово отказываются от традиционных фиксированных тарифов, ведь компании-разработчики не видят смысла брать с клиента условные $200 в месяц, если реальное потребление серверных ресурсов обходится им в $5000. Корпорация Microsoft уже начала переводить тарифы GitHub Copilot с фиксированной оплаты за количество рабочих мест на модель ценообразования по факту фактического потребления, и в этом же направлении активно движется Anthropic.

В итоге многих работодателей, которые наивно надеялись полностью заменить живых сотрудников дешевым искусственным интеллектом, ждет неприятный сюрприз. Как показывает практика, вместо условных $40 в час живой работы и социального пакета бизнесу придется платить примерно $30 в час исключительно за машинные токены.

Тем временем волна масштабных сокращений продолжает захлестывать всю технологическую отрасль. Корпорация Meta* объявила об увольнении 10% штата, закрытии 6000 открытых вакансий и переводе 7000 сотрудников на новые должности. Около 1100 работников увольняет компания Cloudflare, а власти Новой Зеландии и вовсе заявили о планах сократить порядка 9000 государственных служащих из-за автоматизации процессов с помощью ИИ.

На текущий момент явное преимущество сохраняется за крупными технологическими корпорациями, которые могут позволить себе субсидировать убытки по одним направлениям за счет колоссальной прибыли в других. Например, проектам OpenAI и Anthropic пока ничего серьезного не угрожает, так как кто-то должен разрабатывать передовые базовые модели, тогда как другие игроки рынка, включая Microsoft, Meta* и AWS, в этой сфере пока не преуспели — реального масштабного успеха здесь добилась разве что компания Google.

<

Источник: https://3dnews.ru