Как запустить ИИ-модель локально на своём ноутбуке — за три команды

Кажется, что нейросеть живёт где-то в облаке, куда ты стучишься по интернету. Вот сюрприз: неплохую модель можно запустить прямо на своём ноутбуке. Без интернета, без API-ключа, бесплатно за каждый запрос — и твои данные никуда не уходят. И это буквально три команды. Давай сделаем это по шагам.

Что тебе понадобится

Немного: обычный ноутбук и программа Ollama — бесплатный инструмент с открытым кодом, который берёт на себя всю грязную работу (скачивание, сжатие модели, запуск сервера). Тебе останется только говорить с моделью.

Главный вопрос — сколько у тебя оперативной памяти (RAM). От неё зависит, какая модель влезет:

| Размер модели | Нужно RAM | На чём пойдёт | |---|---|---| | 3B (маленькая) | ~4 ГБ | почти любой ноут | | 7–8B (средняя) | ~8 ГБ | обычный ноут, комфортно | | 70B (большая) | 48–64 ГБ | только мощная станция |

«B» тут — это миллиарды параметров, грубо «размер мозга». Новичку с обычным ноутом идеальны 3B–8B — их и возьмём.

Шаг за шагом

1. Установи Ollama. Зайди на ollama.com, скачай под свою систему (macOS, Windows или Linux) и установи как обычную программу — одна кнопка. Она тихо запустит фоновый сервис.

2. Скачай модель. Открой терминал и набери:

   ollama pull gemma3:4b
   

   Это потянет Gemma 3 на 4 миллиарда параметров — файл около 3,3 ГБ. Скачается один раз и ляжет на диск. Хочешь другую — загляни в библиотеку на ollama.com/library, там сотни моделей (Llama, Qwen, Mistral и другие); команда та же, меняется только имя.

3. Запусти и поговори. Одна команда:

   ollama run gemma3:4b
   

   Появится приглашение — печатай вопрос прямо в терминал, как в чате, и модель ответит. Чтобы выйти, набери /bye.

4. Проверь, что это правда офлайн. Выключи Wi-Fi и снова задай вопрос. Модель отвечает как ни в чём не бывало — потому что она целиком у тебя на диске, а не на чужом сервере.

Что получится

У тебя на ноутбуке — свой личный чат-бот, похожий на ChatGPT, который работает без интернета и бесплатно за каждый вопрос. Всё, что ты пишешь, остаётся на твоём компьютере — удобно для личных заметок, черновиков и рабочих данных, которые не хочется отдавать в облако.

Какую модель взять

Правило простое: чем больше модель, тем умнее — и тем больше памяти ест. Для ноутбука бери 3B–8B, они шустрые и на многое годятся. Большие (70B и выше) заметно умнее, но им нужна рабочая станция.

Ollama показывает уже сжатые (квантованные) версии — сжатие ужимает модель в разы почти без потери качества, поэтому серьёзные модели вообще влезают в ноутбук. А теперь, когда понимаешь механику, стоит честно взвесить локальную модель против облачной — у каждой свой смысл.

Это бесплатно навсегда?

Да, сам запуск бесплатен: модели с открытым кодом, платить за каждый запрос не нужно, лимитов нет. Платишь ты только электричеством и разово — железом (нужна память). Никаких счетов за токены, как у облачных сервисов.

Локальная модель хуже ChatGPT?

Маленькая — да, заметно слабее топовых облачных: она меньше и знает меньше. Но для многих задач (черновики, суммирование, простой код, приватные заметки) её хватает с головой. Плюсы — приватность, офлайн и ноль оплаты за запрос — часто важнее пары процентов «ума».