Сервис Claude Code обладает широкими возможностями для автономной работы: он может анализировать репозитории, редактировать файлы, выполнять команды в терминале и проверять корректность внесенных изменений. Эффективность такого подхода обусловлена не только самой моделью, но и специфическим рабочим процессом вокруг неё. Автор материала попытался реализовать аналогичный алгоритм действий, используя собственные локальные вычислительные мощности.
Компоненты локальной системы автоматизации
Для создания собственной среды разработчик объединил три инструмента: модель Qwen 3.5, приложение LM Studio и агент Hermes. В данном случае используется версия модели с 14 миллиардами параметров. Хотя она уступает по производительности Claude, подобная связка позволяет получить близкий по логике работы результат при отсутствии затрат на подписку.
В этой архитектуре LM Studio отвечает за запуск модели Qwen 3.5 и предоставляет к ней доступ через API, совместимый со стандартами OpenAI. Выбор в пользу LM Studio был сделан из-за наличия графического интерфейса и интеграции с платформой Hugging Face. Агент Hermes берет на себя исполнение задач: он подключается к API и предоставляет модели необходимые инструменты, включая поиск, чтение, создание патчей, запись файлов и доступ к терминалу.
В процессе работы модель запрашивает конкретное действие, а Hermes исполняет его, передавая результат обратно. Это избавляет пользователя от необходимости вручную копировать фрагменты кода между окном чата и текстовым редактором.
Настройка среды на аппаратном обеспечении Apple
Для запуска системы использовался ноутбук M5 MacBook Pro с 24 ГБ объединенной памяти. Модель Qwen 3.5 (14B) была запущена в 4-битном квантованном виде, а размер контекстного окна ограничен 32 768 токенами. Такое распределение ресурсов оставляет достаточно оперативной памяти для корректной работы macOS, агента Hermes и необходимых фоновых процессов в терминале.
Сервер, совместимый с API OpenAI, разворачивается во вкладке Developer в LM Studio и становится доступен по адресу http://localhost:1234/v1. После этого в настройках Hermes достаточно выбрать LM Studio в качестве провайдера и указать загруженную модель Qwen.
Управление доступом и безопасность
Для гибкой настройки поведения агента используется файл AGENTS.md. В нем прописываются структура проекта, команды сборки и проверки, которые должны запускаться после изменения кода. Для предотвращения нежелательных правок рекомендуется использовать смарт-режим одобрения команд, ограничивать доступ агента только папкой текущего проекта и работать в отдельной ветке Git.
Эффективность работы и ограничения
При тестировании системы на реальной задаче по исправлению ошибки конфигурации, модель успешно обнаружила ссылки на параметр, проанализировала загрузчик настроек, изменила нужный файл и выполнила тесты. Когда первый патч привел к сбою, Qwen самостоятельно проанализировала вывод терминала, скорректировала условие и повторно запустила проверку. В данном случае участие человека не потребовалось.
Тем не менее, система имеет свои ограничения в сравнении с полноценным Claude Code. Каждый этап обработки выполняется медленнее, особенно при анализе большого количества файлов или длинных ответов терминала. Ограничение контекстного окна в 32 тысячи токенов требует от пользователя разбивать сложные задачи на более мелкие этапы, иначе модель начинает «забывать» начало диалога. Также периодически возникают ошибки вызова инструментов, требующие повторного запуска запроса.
На текущий момент развитие локальных ИИ-агентов позволяет использовать мощные модели даже на устройствах вроде MacBook Air с объемом памяти от 16 ГБ. Обладатели ПК с дискретными графическими ускорителями и значительным объемом видеопамяти способны запускать модели с 32 миллиардами параметров, что делает создание локальных инструментов автоматизации всё более перспективным направлением.
Дополнительные технические аспекты и альтернативные инструменты
Хотя в данном сетапе автор отдает предпочтение связке Hermes и LM Studio, стоит отметить, что архитектура системы достаточно гибкая. В качестве альтернативных инструментов для управления агентом могут выступать OpenCode или сам Claude Code, так как API от OpenAI, на которое опирается LM Studio, также поддерживает работу с локальными моделями. Выбор в пользу Hermes был сделан благодаря его способности выступать «руками» модели, напрямую связываясь с сервером LM Studio, минуя стандартный интерфейс чата.
Особенности рабочего процесса с файлом AGENTS.md
Роль файла AGENTS.md в такой системе критически важна для автоматизации. Помимо указания структуры проекта и команд сборки, автор рекомендует прописывать в нем жесткие инструкции для агента. Например, в текущей конфигурации модель обязана сначала провести инспекцию существующих файлов перед внесением правок, а по завершении изменений — в обязательном порядке запустить соответствующие тесты. Такой регламент минимизирует риск того, что агент «сломает» логику, не понимая контекста текущей кодовой базы.
Работа с контекстом и оптимизация «умственных» ресурсов модели
Одной из проблем локальных моделей, использующих 32-тысячное окно контекста, является накопление избыточной информации. При работе над масштабными задачами модель может начать совершать ошибки. Для решения этой проблемы существует функция сжатия диалога (compression), встроенная в Hermes, однако она имеет обратную сторону: часть ранних деталей обсуждения может быть безвозвратно утеряна. Поэтому наиболее эффективным подходом для локальных систем остается гранулярность: разбиение одной сложной функции или исправления на серию мелких, последовательных запросов.
Важное уточнение: локальные агенты, такие как Qwen 3.5, иногда генерируют некорректные вызовы инструментов (invalid tool calls). Это прерывает рабочий цикл, и пользователю приходится вручную повторять запрос. Тем не менее, по сравнению с инструментами прошлых лет, текущий уровень автоматизации позволяет полноценно делегировать рутину нейросети, если у вас есть достаточно оперативной памяти для комфортной работы модели.
