На конференции Dreamforce компания Salesforce объявила о запуске Koa — своей первой модели рассуждений, разработанной совместно с Nvidia. Новинка базируется на модели с открытыми весами Nemotron от Nvidia и предназначена для выполнения специфических бизнес-задач, включая продажи, маркетинг и клиентскую поддержку. Появление Koa подчеркивает растущий разрыв между потребностями корпоративного сектора и предложениями разработчиков универсальных «пограничных» ИИ-моделей.
Особенности и преимущества модели для бизнеса
В отличие от решений крупных ИИ-лабораторий, требующих от компаний загрузки проприетарных данных и значительных затрат, Salesforce предлагает клиентам иную стратегию. Koa позиционируется как альтернатива закрытым моделям, которая специализируется на выполнении рабочих процессов, а не на решении отвлеченных интеллектуальных задач.
Основные преимущества Koa для корпоративных клиентов включают:
- модель с открытыми весами как альтернатива закрытым решениям;
- обучение специализированным рабочим задачам вместо абстрактных вычислений;
- отсутствие использования реальных данных клиентов при обучении, что исключает риск их утечки;
- сокращение расходов на ИИ за счет более экономного использования токенов;
- возможность автоматической маршрутизации запросов через ИИ-шлюз Salesforce;
- полное соответствие требованиям безопасности и защиты данных, принятым в экосистеме Salesforce.
Модель будет интегрирована в платформу Agentforce, где клиенты создают агентов для автоматизации рутинных операций, таких как ответы на запросы в службу поддержки или планирование встреч. Ранее для сложных многоступенчатых задач Agentforce обращалась к сторонним «пограничным» моделям, таким как Claude или ChatGPT.
Технологическая база и процесс обучения
По словам исполнительного вице-президента Salesforce AI Джайеша Говиндараджана, компания давно планировала создать собственную модель корпоративного уровня, но до появления Nemotron на рынке не было подходящей базовой модели с прозрачным происхождением данных. Говиндараджан отметил, что для компании было критически важно наличие «суверенной» американской разработки с известными источниками обучающей выборки.
В процессе дообучения (post-training) модели Koa для специфических нужд Salesforce и Nvidia не использовали данные реальных клиентов. Вместо этого была создана синтетическая среда, имитирующая типичные сценарии: от общения с гневными клиентами в сервисном центре до работы менеджера по продажам над закрытием сделки. Это позволило создать систему, которая лучше справляется с конкретными задачами и потребляет меньше токенов, чем универсальные аналоги.
Вице-президент Nvidia по программному обеспечению для генеративного ИИ в корпоративном секторе Кари Энн Бриски подчеркнула, что сочетание архитектуры Nemotron с методами оптимизации вывода обеспечивает высокую эффективность и предсказуемую экономику токенов.
Сохранение партнерских отношений
Несмотря на запуск собственной разработки, Salesforce не отказывается от сотрудничества с другими поставщиками ИИ. Параллельно компания анонсировала партнерство с Anthropic под названием ClaudeForce. Данное решение позволяет компаниям использовать Claude в качестве интерфейса для взаимодействия с данными, которые остаются под защитой инфраструктуры Salesforce, сохраняя при этом гибкость выбора между различными ИИ-инструментами в зависимости от текущих потребностей бизнеса.
Почему Salesforce отказалась от привычных «пограничных» моделей
До появления Koa процесс работы в платформе Agentforce был иным: если интеллектуальному агенту требовалось проанализировать многоэтапную или длительную задачу, система направляла эти запросы через ИИ-шлюз (AI gateway) к внешним провайдерам, таким как ChatGPT или Claude. Теперь же Salesforce стремится перевести часть этих нагрузок на собственное решение, чтобы не зависеть исключительно от сторонних лабораторий.
Джайеш Говиндараджан отдельно пояснил, почему выбор пал именно на Nvidia Nemotron. Основная сложность при создании собственной модели корпоративного уровня заключалась в поиске базовой архитектуры, отвечающей трем строгим критериям:
- наличие «суверенной» американской модели;
- соответствие стандартам State-of-the-art (передовые технологии);
- прозрачность происхождения данных (clear data provenance).
Говиндараджан подчеркнул, что вопрос происхождения данных крайне важен для корпоративного сектора, противопоставив подход Nvidia популярным моделям, таким как Qwen от Alibaba, чья база обучения остается для Salesforce «черным ящиком».
Эффективность и «трифекта» Nvidia
С технической точки зрения успех Koa заключается в уникальной архитектуре инференса (вывода), оптимизированной для высокой эффективности использования токенов. Кари Энн Бриски из Nvidia охарактеризовала проект как достижение «трифекты», необходимой для успешного корпоративного внедрения ИИ:
«Это сочетание суверенного ИИ, времени до генерации первого токена (time to first token) и эффективного рассуждения, что в совокупности формирует оптимальную экономику использования токенов (tokenomics)».
Таким образом, переход на Koa позволяет компаниям не просто повысить безопасность за счет отказа от передачи данных во внешние облака, но и существенно оптимизировать бюджеты, выделенные на работу ИИ-инструментов, за счет более «умного» и экономного расходования вычислительных мощностей при выполнении прикладных бизнес-задач.
