Установка Gemma 4 E4B, Ollama и Open WebUI на Linux Mint 22.1

Hand holding a note that says 'Text Gemma 4 E4B' in black marker

Проверено на Linux Mint 22.1 и ноутбуке уровня Dell Latitude 7330:

  • CPU: Intel Core i7-1265U
  • RAM: 32 ГБ
  • GPU: Intel Iris Xe
  • Docker для запуска Open WebUI
  • Ollama для локального запуска моделей

Обновление системы #

sudo apt update
sudo apt upgrade -y

Установка Ollama #

Устанавливаем Ollama:

curl -fsSL https://ollama.com/install.sh | sh

Проверяем версию:

ollama --version

Проверяем, что API Ollama отвечает локально:

curl http://localhost:11434/api/tags

Если Ollama работает, будет JSON со списком моделей. Если моделей пока нет, список будет пустой.

Ответ:

{"models":[]}

Установка Gemma 4 E4B (9.6 GB) #

Скачиваем модель:

ollama pull gemma4:e4b

Проверяем список моделей:

ollama list

Запуск модели в терминале:

ollama run gemma4:e4b

Выход из интерактивного режима:

/bye

или:

Ctrl + D

Дополнительные модели #

Для программирования можно дополнительно поставить Qwen3 8B:

ollama pull qwen3:8b

Запуск:

ollama run qwen3:8b

Для reasoning-задач можно поставить DeepSeek R1 8B:

ollama pull deepseek-r1:8b

Запуск:

ollama run deepseek-r1:8b

DOCKER и Веб-морда для модели (дополнительно) #

Установка Docker #

Устанавливаем Docker:

sudo apt install docker.io -y

Запускаем Docker:

sudo systemctl enable docker
sudo systemctl start docker

Проверяем версию:

docker --version

Добавляем текущего пользователя в группу docker:

sudo usermod -aG docker $USER

После этого нужно перелогиниться в систему или перезагрузиться.

Проверка:

docker run hello-world

Установка Open WebUI #

Создаём volume для хранения данных Open WebUI:

docker volume create open-webui

Запускаем Open WebUI:

docker run -d \
  --name open-webui \
  --restart unless-stopped \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  ghcr.io/open-webui/open-webui:main

Важная строка: --add-host=host.docker.internal:host-gateway — доступ докера к локалке хоста.

Если вылезла ошибка: docker: error getting credentials - err: exec: "docker-credential-desktop": executable file not found in $PATH, out: , то нужно заменить поле credsStore на credStore в ~/.docker/config.json.

Проверяем контейнер:

docker ps

Open WebUI будет доступен по адресу:

http://localhost:3000

При первом запуске нужно создать администратора.


Подключение Open WebUI к Ollama #

В Open WebUI нужно указать адрес Ollama:

http://host.docker.internal:11434

Путь в интерфейсе:

Settings → Connections → Ollama

Важно: host.docker.internal нужно использовать именно внутри Docker-контейнера. На самом Linux-хосте команда ниже может не работать:

curl http://host.docker.internal:11434/api/tags

Это нормально.

На Linux-хосте проверять Ollama нужно так:

curl http://localhost:11434/api/tags

А host.docker.internal проверяется изнутри контейнера Open WebUI.


Проверка доступа к Ollama из контейнера Open WebUI #

Заходим внутрь контейнера:

docker exec -it open-webui bash

Проверяем доступ к Ollama:

curl http://host.docker.internal:11434/api/tags

Если всё работает, должен вернуться JSON со списком моделей, например:

{"models":[{"name":"gemma4:e4b","model":"gemma4:e4b","modified_at":"2026-06-04T15:26:14.742045623+03:00","size":9608350718,"digest":"c6eb396dbd5992bbe3f5cdb947e8bbc0ee413d7c17e2beaae69f5d569cf982eb","details":{"parent_model":"","format":"gguf","family":"gemma4","families":["gemma4"],"parameter_size":"8.0B","quantization_level":"Q4_K_M"},"capabilities":["completion","tools","thinking"]}]}

Выход из контейнера:

exit

Если Open WebUI не видит Ollama #

Типичная ошибка:

Ollama: Cannot connect to host host.docker.internal:11434 ssl:default

Возможные причины:

  1. Ollama слушает только 127.0.0.1:11434, а не 0.0.0.0:11434. (НАИБОЛЕЕ ВЕРОЯТНО!)
  2. Контейнер Open WebUI запущен без --add-host=host.docker.internal:host-gateway.
  3. В Open WebUI указан https://, а нужно http://.

Настройка Ollama на прослушивание всех интерфейсов #

Если из контейнера Open WebUI всё ещё ошибка подключения, нужно разрешить Ollama слушать не только localhost.

Открываем override для systemd:

sudo systemctl edit ollama

Вставляем ДО строки ### Edits below this comment will be discarded:

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

Сохраняем файл.

Перезагружаем systemd и Ollama:

sudo systemctl daemon-reload
sudo systemctl restart ollama

Проверяем, на каком адресе слушает Ollama:

ss -lntp | grep 11434

Нужен примерно такой вывод:

LISTEN 0      4096                    *:11434            *:* 

Если видно только:

127.0.0.1:11434

значит Ollama всё ещё слушает только localhost.


Финальная проверка #

На Linux-хосте:

curl http://localhost:11434/api/tags

Из контейнера Open WebUI:

docker exec -it open-webui bash
curl http://host.docker.internal:11434/api/tags

В Open WebUI:

Settings → Connections → Ollama → http://host.docker.internal:11434

После этого модели из Ollama должны появиться в интерфейсе Open WebUI.


Полезные команды Ollama #

Список моделей:

ollama list

Информация о модели:

ollama show gemma4:e4b

Запущенные модели:

ollama ps

Остановить модель:

ollama stop gemma4:e4b

Удалить модель:

ollama rm gemma4:e4b

Полезные команды Docker для Open WebUI #

Посмотреть контейнеры:

docker ps

Посмотреть логи Open WebUI:

docker logs -f open-webui

Остановить Open WebUI:

docker stop open-webui

Запустить Open WebUI:

docker start open-webui

Удалить контейнер:

docker rm open-webui

Важно: данные Open WebUI хранятся в volume open-webui, поэтому при удалении контейнера настройки и пользователи не должны потеряться.


Обновление Open WebUI #

Останавливаем и удаляем старый контейнер:

docker stop open-webui
docker rm open-webui

Скачиваем свежий образ:

docker pull ghcr.io/open-webui/open-webui:main

Запускаем заново:

docker run -d \
  --name open-webui \
  --restart unless-stopped \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  ghcr.io/open-webui/open-webui:main

Использование Ollama из Python #

Установка библиотеки:

pip install ollama

Пример:

from ollama import chat

response = chat(
    model="gemma4:e4b",
    messages=[
        {
            "role": "user",
            "content": "Привет! Напиши функцию на Python для чтения CSV файла."
        }
    ],
)

print(response.message.content)

Рекомендации #

Инфа по моделям для домашнего ПК:

  • gemma4:e4b — нормальный универсальный вариант
  • qwen3:8b — хороший вариант для программирования
  • deepseek-r1:8b — хороший вариант для рассуждений

На встройках типа Intel Iris Xe ускорения через GPU, скорее всего, не будет. Основная нагрузка пойдёт на CPU и RAM.

32 ГБ оперативной памяти достаточно для комфортного запуска моделей 4B–8B в quantized-вариантах, 16 ГБ — достаточно, но уже с натягом.

Для нормальной работы желательно иметь на борту видеокарту. Протестирована сносная работа на Nvidia GeForce GTX 1660 Super.


Краткий чек-лист #

curl http://localhost:11434/api/tags
docker ps
docker exec -it open-webui bash
curl http://host.docker.internal:11434/api/tags
ss -lntp | grep 11434

В Open WebUI должен быть указан адрес:

http://host.docker.internal:11434
Жми класс
Обновлено 12.06.2026

Оцените документ




0

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *