Ollama на Windows

, ,

Обновлено: 18 октября 2026 · Проверено вручную

Локальная нейросеть за 15 минут, без командной строки на первом шаге.

Что понадобится

  • Windows 10 или 11, 64-бит
  • 8 ГБ оперативной памяти минимум (16 ГБ комфортно)
  • Видеокарта NVIDIA — желательно, но не обязательно
  • 10 ГБ свободного места под модели

Шаг 1. Скачать и установить

Скачайте установщик с официального сайта ollama.com/download и запустите его. Установка идёт без вопросов, около минуты.

После установки в трее появится иконка — программа уже работает как служба. Проверить можно в браузере: откройте http://localhost:11434. Если видите «Ollama is running» — всё готово.

Шаг 2. Запустить модель

Откройте PowerShell (Win+X → «Терминал») и выполните:

Программа скачает около 4,7 ГБ и запустит чат прямо в терминале. Первый запуск — от 2 до 15 минут в зависимости от скорости интернета.

Дальше просто пишете вопросы. Выход — /bye.

Какие модели выбрать

Модель Память Для чего
qwen2.5:3b 3 ГБ Слабый ПК, простые вопросы
qwen2.5:7b 5 ГБ Универсальный выбор, тексты и код
llama3.1:8b 5 ГБ Английский, общие задачи
qwen2.5-coder:7b 5 ГБ Только код
qwen2.5:14b 9 ГБ Заметно умнее, нужна видеокарта

Шаг 3. Графический интерфейс (по желанию)

Терминал неудобен. Варианты:

  • Open WebUI — полноценный веб-чат как у ChatGPT, ставится через Docker
  • LM Studio — отдельное приложение со своим интерфейсом
  • AnythingLLM — если нужна работа с документами

Шаг 4. Использовать из своих программ

Ollama поднимает API на localhost:11434, совместимый с форматом OpenAI:

{`curl http://localhost:11434/api/generate -d ''`}

В Python — через обычный OpenAI SDK, указав base_url="http://localhost:11434/v1".

Типичные проблемы

Симптом Причина и решение
Медленно отвечает Работает на процессоре. Проверьте ollama ps — если GPU не задействован, обновите драйверы
«out of memory» Модель больше видеопамяти. Возьмите версию меньше или квант Q4
Не запускается Порт 11434 занят. Освободите или задайте OLLAMA_HOST
Модель не качается Не хватает места на диске: ollama list, затем ollama rm имя

Сколько занимает места

Каждая модель хранится целиком. 7B — около 4,7 ГБ, 14B — около 9 ГБ. Если места мало — держите одну-две рабочие модели, остальные удаляйте.

Куда дальше

Взять GPU-сервер в Selectel →

Требования к компьютеру

Модель Память Скорость Для чего
qwen2.5:3b 3 ГБ 10–20 ток/с на CPU Тест, простые вопросы
qwen2.5:7b 5 ГБ 5–15 ток/с (GPU: 40+) Универсальный выбор
llama3.1:8b 5 ГБ 5–15 ток/с (GPU: 40+) Английский, общие задачи
qwen2.5-coder:7b 5 ГБ 5–15 ток/с (GPU: 40+) Только код
qwen2.5:14b 9 ГБ Нужна GPU Заметно умнее
qwen2.5:32b 20 ГБ Нужна GPU 24 ГБ Почти как облачная

Без видеокарты работает, но медленно. Для 7B на CPU — 5–15 токенов в секунду, это примерно как читать быстрее, чем печатать. Для коротких вопросов терпимо, для длинных текстов — нет.

Установка: пошагово

  1. Скачайте установщик с ollama.com/download/windows.
  2. Запустите — установка идёт без вопросов, около минуты.
  3. Проверьте в браузере: http://localhost:11434 должен показать «Ollama is running».
  4. Откройте PowerShell: ollama run qwen2.5:7b — начнётся скачивание (~4,7 ГБ).
  5. После загрузки сразу откроется чат прямо в терминале.

Что делать после установки

  • Поставить графический интерфейс. Open WebUI (через Docker) или LM Studio — обычный чат, как у ChatGPT.
  • Проверить, что работает GPU. Команда ollama ps показывает, задействована ли видеокарта.
  • Настроить автозапуск. По умолчанию Ollama уже работает как служба Windows.
  • Освободить место. ollama list — список моделей, ollama rm имя — удалить ненужную.

Типичные ошибки

Симптом Причина Решение
Очень медленно Работает на CPU Проверьте драйверы NVIDIA, обновите их
out of memory Модель больше видеопамяти Возьмите 7B вместо 14B или квант Q4
Порт занят 11434 уже используется Закройте старый процесс или задайте OLLAMA_HOST
Модель не качается Мало места ollama list → ollama rm для старых
Русский с ошибками Модель слабая для русского Возьмите qwen2.5 — она лучшая из локальных по русскому

Сколько занимает места

7B — ~4,7 ГБ, 14B — ~9 ГБ, 32B — ~20 ГБ. Держите 1–2 рабочие модели, остальные удаляйте: место на SSD кончается быстро.

Альтернатива: GPU-сервер

Если своего железа нет, но данные нельзя отдавать — берут GPU-сервер в России. От 3 000 ₽/мес за видеокарту с 8–16 ГБ.

Взять GPU-сервер в Selectel →

Взять GPU-сервер в Selectel →


Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *