LM Studio в Linux: как установить и запустить локальную нейросеть без интернета

LM Studio в Linux ставится как AppImage: скачать файл, дать права на запуск и при необходимости доставить libfuse2. Дальше выбираете GGUF-модель с квантованием Q4_K_M или Q5_K_M под объём видеопамяти и получаете локальную нейросеть без интернета, с чатом и API в формате OpenAI на порту 1234.

Что умеет LM Studio и чем она отличается от Ollama

LM Studio - настольное приложение для запуска языковых моделей на своём компьютере. Внутри работает движок llama.cpp, поэтому модели берутся в формате GGUF, а вычисления идут на процессоре, видеокарте NVIDIA (CUDA), AMD или Intel (Vulkan). Скачали модель один раз, дальше интернет не нужен: чат, разбор документов и API-сервер работают локально.

На октябрь 2026 года актуальна ветка 0.4, на сайте проекта лежит сборка 0.4.26. Приложение бесплатное, но код закрыт. Открыты только командная утилита lms и SDK.

Если сравнивать с Ollama, разница в подходе. Ollama - служба без интерфейса, всё делается командами и через API. LM Studio - графическая программа с поиском моделей на Hugging Face, ползунками видеопамяти и контекста, встроенным чатом. Для первого знакомства с локальными нейросетями она удобнее. Для сервера без монитора у неё тоже есть вариант: фоновая служба llmster. Про Ollama подробно написано в статье о локальных моделях в Ollama, а если хочется собрать движок самому, смотрите llama.cpp и GGUF.

Какой компьютер нужен

Официальные требования для Linux короткие: процессор x86_64 с поддержкой AVX2 или ARM64 (aarch64), Ubuntu 20.04 и новее. Разработчики честно пишут, что версии новее 22.04 тестируются хуже, но на Ubuntu 24.04, 26.04, Fedora 44 и Arch программа запускается без проблем, если поставить FUSE для AppImage.

Проверить AVX2 можно одной командой. Пустой вывод означает, что процессор слишком старый для стандартной сборки:

grep -o -m1 avx2 /proc/cpuinfo

По памяти ориентир такой: 16 ГБ ОЗУ хватает для моделей на 7-8 миллиардов параметров даже без видеокарты, но ответы будут медленными. Видеокарта с 8 ГБ памяти уже даёт комфортную скорость на 8B, с 12-16 ГБ можно брать модели на 14B, а 24 ГБ открывают класс 24-32B. Подробнее о выборе железа под нейросети рассказано в статье о видеокартах для локального ИИ.

Для NVIDIA нужен работающий проприетарный или открытый драйвер: команда nvidia-smi должна показывать карту. CUDA Toolkit ставить не обязательно, LM Studio сама скачивает нужный рантайм.

Установка LM Studio из AppImage

Основной формат для Linux - AppImage. Скачайте файл со страницы lmstudio.ai/download или из терминала, сделайте его исполняемым и положите в отдельную папку:

mkdir -p ~/Applications
cd ~/Applications
wget -O LM-Studio.AppImage "https://lmstudio.ai/download/latest/linux/x64?format=AppImage"
chmod +x LM-Studio.AppImage
./LM-Studio.AppImage

Для ARM64 в адресе замените x64 на arm64.

Ошибка libfuse.so.2

AppImage старого типа требует библиотеку FUSE 2. Если при запуске видите dlopen(): error loading libfuse.so.2, поставьте пакет:

# Ubuntu 24.04, 26.04, Debian 13
sudo apt install libfuse2t64
# Fedora
sudo dnf install fuse-libs
# Arch Linux
sudo pacman -S fuse2

Песочница Electron в Ubuntu

LM Studio написана на Electron. В Ubuntu начиная с 24.04 AppArmor ограничивает пространства имён пользователя, и программа может упасть с сообщением про chrome-sandbox или The SUID sandbox helper binary was found. Быстрый обход - запуск с ключом --no-sandbox:

./LM-Studio.AppImage --no-sandbox

Так отключается песочница рендерера, поэтому аккуратнее использовать его только для доверенного приложения. Подробно о рисках и альтернативах написано в материале про безопасность AppImage.

Ярлык в меню

Проще всего интегрировать AppImage через Gear Lever из Flathub: программа сама создаст ярлык и будет следить за обновлениями. Вручную хватит файла ~/.local/share/applications/lm-studio.desktop:

[Desktop Entry]
Name=LM Studio
Exec=/home/user/Applications/LM-Studio.AppImage --no-sandbox
Type=Application
Categories=Development;

Путь в Exec поправьте под своё имя пользователя.

Сервер без монитора: llmster и lms

Для домашнего сервера или машины с видеокартой в подсобке графический интерфейс не нужен. Разработчики выпускают llmster - фоновую службу с тем же движком. Установка одной командой, вместе с ней приходит и утилита lms:

curl -fsSL https://lmstudio.ai/install.sh | bash
# откройте новый терминал, чтобы обновился PATH
lms daemon up
lms server start

Перед запуском скрипта из интернета полезно открыть его в браузере и прочитать. Для автозапуска при загрузке в документации LM Studio есть отдельная инструкция с юнитом systemd. Если поставлено обычное приложение, lms тоже есть: при первой команде утилита сама поднимет LM Studio в фоне.

Основные команды:

• lms ls - модели на диске;
• lms ps - загруженные в память;
• lms load и lms unload --all - загрузить и выгрузить;
• lms chat - чат прямо в терминале;
• lms log stream - журнал запросов к серверу.

Где брать GGUF-модели и как их скачать

Во вкладке Discover (значок лупы) работает поиск по Hugging Face. Введите название семейства, например Qwen, Gemma, Llama или Mistral, и выберите вариант. Справа LM Studio показывает список файлов разного квантования и подсвечивает, какие поместятся в вашу видеопамять полностью, а какие только частично.

То же самое из терминала. После символа @ указывается квантование:

lms get llama-3.1-8b
lms get llama-3.1-8b@q4_k_m
lms get --gguf --limit 5

Модели складываются в ~/.lmstudio/models. Папку можно перенести на другой диск в настройках (раздел My Models), это полезно, когда системный раздел маленький: средняя модель весит 5-20 ГБ. Уже скачанный GGUF-файл, например от llama.cpp, подключается командой:

lms import ~/Downloads/model-Q4_K_M.gguf

Для русского языка смотрите на модели, где в карточке явно заявлена многоязычность. Маленькие модели на 1-4B отвечают по-русски заметно хуже, чем по-английски, начинать имеет смысл с 7-8B.

Какое квантование выбрать под объём видеопамяти

Квантование уменьшает точность весов: вместо 16 бит на параметр остаётся 8, 5, 4 или даже 2. Файл становится в разы меньше, качество падает, но до уровня Q4 разница в повседневных задачах заметна слабо. Размер файла примерно равен числу параметров, умноженному на число бит и делённому на 8.

К размеру файла добавьте память на контекст (KV-кэш). Для 8B-модели с окном 8 тысяч токенов это порядка 1 ГБ, с окном 32 тысячи уже несколько гигабайт. Плюс сам рабочий стол съедает 0,5-1 ГБ видеопамяти. Практическое правило: файл модели плюс 1,5-2 ГБ должны помещаться в VRAM, тогда все слои считаются на видеокарте.

Если не помещается, LM Studio выгружает часть слоёв на процессор. Это работает, но скорость падает в разы. Ползунок GPU Offload в настройках загрузки модели и ключ --gpu управляют этим вручную:

lms load --estimate-only qwen3-14b
lms load qwen3-14b --gpu max --context-length 8192
lms load qwen3-14b --gpu 0.6 --context-length 16384

Локальный API-сервер, совместимый с OpenAI

LM Studio умеет работать как сервер с API в формате OpenAI. Любая программа, которая умеет обращаться к ChatGPT по API, может вместо него ходить к вашей локальной модели. Запуск из вкладки Developer кнопкой Start Server или из терминала:

lms server start --port 1234
lms server status

Проверка, что сервер отвечает и какие модели доступны:

curl http://localhost:1234/v1/models
curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "qwen3-14b", "messages": [{"role": "user", "content": "Как посмотреть свободное место на диске?"}]}'

Поддерживаются /v1/chat/completions, /v1/completions, /v1/embeddings, /v1/responses, а также собственный REST API и совместимый с Anthropic эндпоинт сообщений. В клиентских библиотеках достаточно поменять адрес:

from openai import OpenAI
client = OpenAI(base_url="http://localhost:1234/v1", api_key="lm-studio")
r = client.chat.completions.create(
    model="qwen3-14b",
    messages=[{"role": "user", "content": "Привет"}],
)
print(r.choices[0].message.content)

По умолчанию сервер слушает только 127.0.0.1. Чтобы обращаться к нему с другого компьютера в сети, нужен ключ --bind 0.0.0.0. Документация прямо предупреждает: без аутентификации это открывает модель всем в сети, поэтому включите токен в настройках сервера и закройте порт фаерволом для чужих адресов. Удобный веб-клиент к такому серверу описан в статье про Open WebUI.

Как убедиться, что нейросеть работает без интернета

Сама генерация текста идёт локально, сеть нужна только для поиска и скачивания моделей и для проверки обновлений. Проверить легко: загрузите модель, отключите Wi-Fi или кабель и задайте вопрос в чате. Ответ придёт так же быстро.

Если важна гарантия, посмотрите сетевые соединения процесса во время работы:

ss -tnp | grep -i lm

В настройках приложения можно отключить автоматическую проверку обновлений. Для полностью изолированной машины модели удобно скачать на другом компьютере, перенести на флешке и подключить через lms import.

Если LM Studio не запускается или тормозит

• Окно не открывается, в терминале ошибка FUSE. Поставьте libfuse2t64, fuse-libs или fuse2, как описано выше.
• Падает сразу с ошибкой sandbox. Запустите с --no-sandbox или из распакованной папки: ./LM-Studio.AppImage --appimage-extract.
• Видеокарта не используется. Откройте настройки, раздел Runtime (или lms runtime), и выберите CUDA для NVIDIA или Vulkan для AMD и Intel. Проверьте драйвер: для NVIDIA его установка описана в статье про драйвер NVIDIA.
• Система зависает при загрузке модели. Не хватило ОЗУ. Возьмите квантование меньше, сократите контекст, включите zram или swap.
• Порт 1234 занят. Найдите процесс командой ss -ltnp | grep 1234 или запустите сервер на другом порту через --port.
• Ответы медленные, хотя модель влезает. Посмотрите в nvidia-smi, загружена ли видеопамять. Если нет, слои ушли на процессор: увеличьте GPU Offload до максимума.

Чтобы удалить программу, достаточно стереть AppImage и ярлык. Модели и настройки лежат в ~/.lmstudio, эту папку удалите вручную, если место нужно освободить.

Частые вопросы

Документация и источники

• LM Studio System Requirements, LM Studio, 2026
• lms CLI: load, get, server start, LM Studio, 2026
• Run LM Studio headless (llmster), LM Studio, 2026
• OpenAI Compatibility Endpoints, LM Studio, 2026

Команды проверены на актуальных версиях дистрибутивов на момент обновления. Перед изменением системных настроек сделайте резервную копию.