Тег: LLM
Локальная нейросеть успешно восстановила утраченную документацию по исходному коду проектов
Автор протестировал возможности локальной LLM Qwen 3.6:27b-q4_K_M, попросив её создать техническую документацию для нескольких IT-проектов на основе имеющегося исходного кода.
Как запускать популярные ИИ-функции локально на ноутбуке
Современные локальные модели достигли уровня, позволяющего отказаться от платных облачных сервисов для работы с документами, транскрипции и генерации контента.
Как запуск языковых моделей Gemma 4 на NAS изменил мои привычки
Опыт использования компактных моделей Gemma 4 на NAS-сервере с процессором i5-1235U для фоновых задач и автоматизации.
Обзор десктопного приложения Unsloth: локальный ИИ и возможности обучения
Команда Unsloth выпустила бесплатное приложение с открытым исходным кодом для локального запуска и обучения LLM, объединив функции нескольких популярных инструментов в одном интерфейсе.
Локальные LLM и проблема актуальности данных: опыт внедрения поискового движка
Владелец домашней серверной системы выяснил, что главной проблемой локальных LLM являются устаревшие данные, а не галлюцинации. Разбираемся, как интеграция поиска решает эту задачу.
Использование видеокарты Intel Arc A750 для запуска локальных LLM
Автор протестировал работу локальных языковых моделей на устаревшей видеокарте Intel Arc A750, используя платформу Proxmox и движок llama.cpp.
Интеграция локальной LLM в Home Assistant для управления голосовыми командами
Разбор опыта интеграции локальной языковой модели в систему Home Assistant. Почему стандартные интенты предпочтительнее LLM для простых задач и когда ИИ действительно полезен.
Meet Jev: A New AI Model From One of ChatGPT’s Co-Creators
Стартап TypeSafe AI представил Jev — новую ИИ-модель, ориентированную на моментальное принятие решений вместо генерации текста. Разбираемся, почему это важно для индустрии.
Стартап PrismML представил компактную модель Bonsai 2 для работы на устройствах
Стартап PrismML разработал технологию сжатия нейросетей, позволяющую запускать мощные языковые модели непосредственно на персональных компьютерах и смартфонах.
Исследование: внедрение водяных знаков делает LLM уязвимыми для вредоносных запросов
Внедрение водяных знаков SynthID-Text в языковые модели может снизить их устойчивость к вредоносным запросам, позволяя злоумышленникам обходить системы безопасности.
