Ollama: запустить нейросеть локально на ПК

Ollama — это бесплатная программа, которая запускает нейросеть локально на вашем компьютере: скачал модель один раз — дальше она работает без интернета, а данные не уходят в облако. Ставится на macOS, Windows и Linux, запуск модели — одна команда в терминале. Ниже разберём, что нужно от железа честно, как установить, какие модели брать в июле 2026 и чем локальная модель полезна вайб-кодеру рядом с облачными агентами.

Часть 1 · Понятие

Что такое Ollama и локальная нейросеть

Обычные чаты — ChatGPT, Алиса, DeepSeek — работают в облаке: ваш запрос улетает на сервер компании, там его обрабатывает модель, ответ возвращается. Локальная нейросеть работает наоборот: модель целиком лежит у вас на диске и считает на вашем процессоре или видеокарте. Ollama — самый простой способ это устроить: она берёт на себя скачивание модели, запуск и общение через терминал или приложения.

За что её любят: приватность (данные не уходят в облако — важно для рабочих документов и кода), офлайн (работает без сети), бесплатность (не платишь за токены, только за электричество) и контроль (сам выбираешь модель из библиотеки на 5000+ штук). Плата — за это отвечает ваше железо: чем оно слабее, тем меньше и проще модель.

Многие из моделей, что крутит Ollama, — это те же открытые нейросети, о которых мы писали отдельно: например DeepSeek с открытыми весами. Открытость весов и есть причина, по которой их можно скачать и запустить у себя.

Часть 2 · Железо

Какой компьютер нужен — честно

Размер модели считают в миллиардах параметров: 7B, 14B, 32B. Чем больше число — тем «умнее» модель, но тем больше памяти ей нужно. При обычном сжатии (Q4) ориентир такой:

Видеокарта не обязательна, но сильно ускоряет. Комфортная связка — 16 ГБ памяти плюс видеокарта на 8-12 ГБ (например NVIDIA RTX 3060 или 4060) либо Mac на Apple Silicon с 16 ГБ: на такой конфигурации модели 7-14B выдают 30-60 слов в секунду, то есть отвечают почти как облачный чат.

Часть 3 · Старт

Как установить и запустить

Установка занимает пару минут. Порядок такой:

# macOS и Windows:
# скачай приложение с ollama.com/download,
# установи как обычную программу, запусти.

# Linux — одной командой в терминале:
curl -fsSL https://ollama.com/install.sh | sh

После установки модель запускается одной командой — Ollama сама её скачает при первом запуске и откроет чат прямо в терминале:

# запустить модель и сразу открыть чат
ollama run llama3.1

# скачать модель, не запуская
ollama pull qwen3

# посмотреть, что уже установлено
ollama list

# выйти из чата
/bye

Если терминал непривычен, поверх Ollama ставят графический интерфейс (например Open WebUI) — получается окно чата почти как у ChatGPT, но всё считается локально. Ещё у Ollama есть облачный режим (Ollama Cloud) — если своего железа не хватает, а данные не секретны.

Часть 4 · Модели

Какие модели запускать в 2026

• Llama 3.1 8B — дефолт для старта: около 5 ГБ, помещается в 8 ГБ памяти, хорошо пишет и понимает русский. С неё стоит начать.
• Qwen 3 14B — одна из самых сильных универсальных моделей для локального запуска на сегодня. Нужно 16 ГБ и выше.
• gpt-oss 20B — открытая модель от OpenAI, аккуратно ложится в видеокарту на 16 ГБ без ручного сжатия.
• DeepSeek — силён в коде и рассуждениях; те же открытые веса, что и в облачной версии.
• Gemma (Google) — лёгкие модели, когда памяти совсем мало.

Правило большого пальца: начни с малой модели под своё железо, а не с самой большой из статьи. Названия и версии меняются — важен размер (7B/14B/32B) и то, влезает ли он в твою память.

Часть 5 · Для разработчика

Зачем локальная нейросеть разработчику

Для тех, кто кодит с ИИ, Ollama закрывает несколько сценариев, где гнать всё в облако накладно или нельзя:

• Приватный код. Внутренний репозиторий, который нельзя отправлять в чужое облако, — локальная модель разбирает его у вас на машине.
• Дешёвый черновик. Быстро набросать функцию, объяснить кусок кода, сгенерировать тест — без расхода токенов на платном тарифе.
• Офлайн. Дорога, самолёт, слабый интернет — модель работает локально.

Честная рамка: локальная модель на домашнем железе слабее топовых облачных. Поэтому рабочая связка — черновик и приватную рутину на Ollama, а сложную многошаговую разработку, рефакторинг и работу с большим проектом на Claude Code. Если хотите усилить агента навыками, посмотрите что такое Agent Skills для Claude Code.

Вопросы

Частые вопросы

Читать дальше

Соседние гайды