Видеокарта для локальных нейросетей в Linux: выбираем между NVIDIA и AMD

Видеокарту для локальных нейросетей в Linux выбирают в первую очередь по объёму видеопамяти: 12-16 ГБ хватает для большинства домашних задач, 24 ГБ открывают модели на 30 млрд параметров. NVIDIA проще для генерации изображений и обучения, AMD даёт больше памяти за те же деньги и хорошо подходит для запуска языковых моделей через ROCm или Vulkan.

Сначала считаем видеопамять, потом выбираем бренд

Для локальных языковых моделей объём VRAM решает больше, чем марка и даже поколение чипа. Если модель целиком помещается в память видеокарты, ответы идут быстро. Если не помещается, часть слоёв уходит в оперативную память, и скорость падает в разы, потому что процессор и шина PCIe становятся узким местом.

Прикинуть нужный объём можно по простой формуле: число параметров умножить на разрядность весов в байтах и добавить запас на контекст. Для популярной квантизации Q4 это примерно половина байта на параметр:

• модель 7-8 млрд параметров в Q4 занимает около 5 ГБ, комфортно работает на карте с 8 ГБ;
• 12-14 млрд в Q4 требуют 8-10 ГБ, удобнее карта на 12-16 ГБ;
• 27-32 млрд в Q4 занимают порядка 18-20 ГБ, это уровень карт на 24 ГБ;
• 70 млрд в Q4 требуют около 40 ГБ, то есть двух карт или системы с общей памятью.

Это оценки, а не замеры: точный размер зависит от архитектуры модели, способа квантизации и длины контекста, который тоже живёт в VRAM. Для генерации изображений картина другая: SDXL уверенно работает на 8-12 ГБ, а свежие крупные модели и видео хотят 16-24 ГБ и больше.

Сколько VRAM под какие задачи

Сводка для домашнего компьютера под Linux. Цифры ориентировочные, они помогают понять порядок, а не выбрать конкретную модель до гигабайта.

Обратите внимание на интегрированные решения с большой общей памятью, вроде AMD Ryzen AI Max с графикой Radeon 8060S: видеоядро может использовать десятки гигабайт системной памяти. Скорость у них ниже, чем у старших дискретных карт, зато крупная модель хотя бы помещается целиком.

NVIDIA в Linux: CUDA работает почти везде

Главный плюс NVIDIA - экосистема. Практически любой проект с нейросетями сначала пишут и тестируют под CUDA, а уже потом, если повезёт, портируют на другие платформы. Если вы планируете пробовать свежие репозитории с GitHub, обучать LoRA или работать с видео, NVIDIA избавит от многих часов поиска обходных путей.

Что нужно в системе:

1. Драйвер NVIDIA из репозитория дистрибутива. Порядок для Ubuntu, Fedora и Arch описан в статье как установить драйвер NVIDIA. Для новых карт берите открытые модули ядра, NVIDIA сама рекомендует их для архитектур начиная с Turing.
2. Если включён Secure Boot, модуль нужно подписать, иначе он не загрузится. Как это сделать без отключения защиты, смотрите в материале про Secure Boot и драйверы.
3. CUDA Toolkit ставить отдельно чаще всего не нужно: Ollama, PyTorch и ComfyUI приносят свои библиотеки CUDA, им нужен только драйвер.

# драйвер загружен и видит карту
nvidia-smi
# какой модуль ядра используется
lspci -k | grep -A3 -E "VGA|3D"

Минусы тоже есть: за ту же сумму NVIDIA обычно даёт меньше видеопамяти, чем AMD, а драйвер живёт вне ядра, и после обновления ядра иногда приходится ждать пересборки модуля.

AMD в Linux: ROCm, Vulkan и где нужна осторожность

У AMD сильная сторона противоположная: больше памяти за те же деньги и полностью открытый драйвер amdgpu прямо в ядре. Для запуска языковых моделей через Ollama и llama.cpp карты на RDNA 3 и RDNA 4 в 2026 году работают без танцев. Сложнее с обучением и экзотическими проектами, где авторы проверяли только CUDA.

Какие карты поддерживает ROCm

В актуальной матрице совместимости ROCm 7 для Linux перечислены Radeon RX 9000 и RX 7000, профессиональные Radeon PRO W7000 и W6000, а также часть интегрированной графики RDNA 3 и 3.5. Из прошлого поколения официально поддержан чип gfx1030 (RX 6800 и RX 6900). Младшие RX 6000 часто запускают с переменной HSA_OVERRIDE_GFX_VERSION=10.3.0, но это неофициальный обход, и работоспособность не гарантирована.

Установка по дистрибутивам

# Ubuntu 26.04 LTS: ROCm есть в архиве дистрибутива
sudo apt install rocm
# Arch Linux
sudo pacman -S rocm-hip-sdk rocminfo
# доступ к GPU для пользователя (затем перелогиньтесь)
sudo usermod -aG render,video $USER
# проверка: должен появиться агент gfx11xx или gfx12xx
rocminfo | grep -i gfx

В Ubuntu 26.04 Canonical впервые положила ROCm прямо в репозиторий, но на старте там версия 7.1, которая отстаёт от свежих выпусков AMD. Для новейших карт может понадобиться официальный репозиторий AMD. Fedora тоже собирает ROCm в своих репозиториях. Актуальный список карт и версий смотрите в матрице совместимости ROCm.

План Б: Vulkan

Если ROCm не подружился с вашей картой, llama.cpp умеет работать через Vulkan. Это медленнее оптимального пути, зато подходит почти для любой видеокарты, включая Intel Arc и старые Radeon. Сборка с флагом -DGGML_VULKAN=ON, для ROCm используется -DGGML_HIP=ON, для NVIDIA -DGGML_CUDA=ON.

Как убедиться, что модель считает видеокарта

Частая ситуация: всё установлено, но ответы идут медленно, потому что модель тихо работает на процессоре. Проверьте во время генерации:

# Ollama: колонка PROCESSOR должна показывать 100% GPU
ollama ps
# NVIDIA: загрузка и занятая память
watch -n 1 nvidia-smi
# AMD
rocm-smi
# универсальный монитор для AMD, Intel и NVIDIA
nvtop

Если Ollama показывает смешанную загрузку вроде 40%/60% CPU/GPU, модель не поместилась в VRAM. Возьмите квантизацию поменьше, уменьшите контекст или выберите модель меньшего размера. Если GPU не используется вовсе, загляните в журнал службы: journalctl -u ollama -n 50. Там видно, нашла ли программа CUDA или ROCm. Подробная установка описана в статье Ollama в Linux, а для генерации картинок есть отдельный разбор ComfyUI.

Intel Arc и встроенная графика: есть ли смысл

Intel Arc с 12-16 ГБ памяти выглядит привлекательно по цене. В Linux они работают на открытых драйверах, а для нейросетей доступны два пути: Vulkan в llama.cpp и стек oneAPI/SYCL от Intel. Поддержка в популярных программах есть, но готовых инструкций и проверенных сборок меньше, чем для NVIDIA и AMD, так что это выбор для тех, кто готов разбираться.

Встроенная графика обычных процессоров подходит только для маленьких моделей до 3-4 млрд параметров. Исключение - новые платформы с быстрой общей памятью, о которых шла речь выше. Если сомневаетесь, какая у вас видеокарта и какой драйвер сейчас загружен, проверьте по инструкции как узнать видеодрайвер в Linux.

Покупка с рук: на что смотреть

Вторичный рынок часто выгоднее: карты прошлых поколений с 16-24 ГБ стоят разумно, а для инференса скорость чипа не так важна, как память. При покупке обратите внимание:

• Поддержка в ROCm. Для AMD это главное. Карта, выпавшая из списка поддержки, через год может перестать работать с новыми версиями библиотек.
• Поколение NVIDIA. Свежие версии CUDA постепенно отказываются от старых архитектур. Карты Pascal и старше брать под нейросети в 2026 году уже не стоит.
• Габариты и питание. Трёхслотовая карта с двумя разъёмами 8-pin или 12V-2x6 может не влезть в корпус или не потянуть старый блок питания.
• Состояние. Попросите показать карту под длительной нагрузкой и следите за температурой памяти.

Наш выбор под разные сценарии

Если свести всё к нескольким типичным запросам:

• Хочу чат-бота и помощника для кода, бюджет ограничен. AMD RDNA 3 или RDNA 4 с 16 ГБ, Ollama или llama.cpp. Больше памяти за те же деньги.
• Генерация изображений и видео, свежие модели с GitHub. NVIDIA с 16 ГБ и больше. Меньше времени уходит на совместимость.
• Обучение и дообучение моделей. NVIDIA: инструменты под CUDA зрелее, документации больше.
• Большие модели без серверных цен. Карта на 24 ГБ с рук или система с большой общей памятью.
• Уже есть старая карта. Начните с неё и Vulkan-сборки llama.cpp, а решение о покупке принимайте, когда поймёте свои реальные задачи.

Дистрибутив тоже влияет на удобство: для ROCm проще всего Ubuntu LTS, где AMD и Canonical тестируют стек официально. Fedora и Arch работают, но проблемы там решаются силами сообщества.

Частые вопросы

Документация и источники

• ROCm compatibility matrix, AMD, 2026
• AI with AMD ROCm on Ubuntu, Canonical, 2026
• llama.cpp build documentation, ggml-org, 2026

Команды проверены на актуальных версиях дистрибутивов на момент обновления. Перед изменением системных настроек сделайте резервную копию.