Подразделение Amazon Web Services выпустило собственную открытую модель принятия решений, созданную под впечатлением от разработки Jev компании TypeSafe. Создание таких инструментов обусловлено растущим среди разработчиков ИИ спросом на решения, которые лучше подходят для компьютерной автоматизации, чем передовые языковые модели.
Новая модель от Amazon получила название Strands Decider 2B. Ее релиз состоялся на той же неделе, когда OpenAI анонсировала аналогичное предложение. Этот инструмент представляет собой высокоскоростной и экономичный способ выбора из заранее определенных вариантов, а также выдает оценку собственной уверенности в принятом решении. Модель распространяется по полностью открытой лицензии, доступна уже сейчас и имеет достаточно компактный размер для локального запуска.
Создание проекта и востребованность у клиентов
Идея создания такого проекта появилась у главного инженера Amazon Марка Брукера после того, как он познакомился с моделью Jev и попытался собрать собственный аналог. Домашняя разработка оказалась настолько успешной, что на короткое время заняла первое место в рейтинге Jevbench среди моделей своего класса. В результате инженеры Amazon доработали проект и выпустили его под эгидой Strands Labs — подразделения, которое разрабатывает новые инструменты и протоколы для развертывания ИИ-агентов.
По словам Брукера, необходимость в подобном инструменте выявилась в ходе общения с клиентами AWS. Выяснилось, что их агентские рабочие процессы далеко не всегда требуют функциональности и затрат полноценной крупной языковой модели. Разработчик отметил, что модель предлагает клиентам более надежный этап рабочего процесса благодаря оценкам уверенности и закрытому домену ответов, а также обеспечивает меньшую задержку и потенциально более низкую стоимость.
Технические особенности и перспективы нового направления
Как и другие аналогичные модели принятия решений, Strands Decider построена на базе языковой модели — в данном случае Qen3.5-2B. Однако вместо генерации текста она выдает откалиброванные варианты выбора. Компания TypeSafe назвала свою модель Jev в честь экономиста Уильяма Стэнли Джевонса, рассчитывая подтвердить его теорию о том, что падение стоимости ресурса, такого как компьютерный интеллект, способно увеличить спрос на него.
Появление десятков подобных моделей от исследователей после дебюта идеи TypeSafe демонстрирует высокий интерес рынка, но одновременно ставит вопрос об их реальной ценности. Марк Брукер полагает, что главной сложностью станет оптимизация быстродействия модели без ущерба для ее интеллектуальных способностей. Необходимо соблюсти баланс между точностью и калибровкой для конкретных задач, не ухудшая при этом понимание языков и общую базу знаний.
При этом он не ожидает, что передовые лаборатории будут безоговорочно доминировать в этой нише, поскольку на небольших рынках затраты на создание интересного решения исчисляются сотнями или тысячами долларов. В свою очередь, руководители TypeSafe заявляют, что продолжают совершенствовать свои будущие разработки. Генеральный директор и основатель компании Диого Алмейда отметил, что пока не видит реальных конкурентов, охарактеризовав текущую волну аналогов скорее как интерес специалистов по машинному обучению к реализации архитектуры, чем как глубокую работу над полезностью интеллекта.
