Тег: llama.cpp
Как старый ноутбук стал полезным инструментом благодаря локальному ИИ
Владелец семилетнего лэптопа нашел способ вдохнуть в него вторую жизнь, запустив локальные языковые модели для работы с документами и организации файлов без облачных сервисов.
Использование видеокарты Intel Arc A750 для запуска локальных LLM
Автор протестировал работу локальных языковых моделей на устаревшей видеокарте Intel Arc A750, используя платформу Proxmox и движок llama.cpp.
Локальный ИИ-сервер Lemonade 11.9 получил поддержку бэкенда AMD ROCm HRX
Релиз версии Lemonade 11.9 принес экспериментальную поддержку AMD ROCm HRX. Новый бэкенд нацелен на повышение производительности ИИ-нагрузок на архитектурах RDNA3 и Strix Halo.
Как я превратил старый смартфон в локальный сервер для языковых моделей
Автор эксперимента задействовал устаревший смартфон Poco M6 Pro для запуска локального сервера ИИ через Termux и llama.cpp.
