Что такое параметры модели — те самые 7B и 70B в названии

Ты наверняка видел странные имена моделей: «Llama 70B», «Qwen 7B», «Mistral 8x7B». Что за буква B в конце? Это миллиарды (billions) — миллиарды параметров. И вот неочевидная польза: как только поймёшь, что это за число, ты по одному названию сможешь прикинуть, влезет ли модель в твой ноут и стоит ли вообще за ней гнаться.

Что такое параметр

Представь огромный пульт с ручками-крутилками. Каждая ручка чуть-чуть влияет на то, какой ответ выдаст модель. Параметр — это одна такая ручка.

Когда нейросеть обучают, она миллионы раз смотрит на примеры и потихоньку подкручивает все эти ручки, чтобы ответы становились лучше. После обучения настройки замораживают. Готовая модель — это и есть гигантский набор уже выставленных ручек.

«7B» значит 7 миллиардов таких ручек. «70B» — семьдесят миллиардов. Числа, которые человеку не уложить в голове, но компьютеру — норма.

Больше параметров — это всегда лучше?

Короткий ответ: нет, и это главное заблуждение новичка.

Больше параметров — это больше «ёмкости»: модель в принципе способна уловить более тонкие связи. Но на деле умнее её делают не только размер, а ещё качество данных, на которых учили, и сама дообработка. Маленькая, но хорошо обученная модель часто обгоняет большую и старую.

Поэтому не выбирай модель по числу B, как по мегапикселям в камере. Смотри на бенчмарки — независимые тесты, где модели честно сравнивают на задачах. Размер — это потолок возможностей, а не гарантия.

Зачем это знать тебе — главная практическая польза

Вот ради чего стоило читать. Число параметров напрямую говорит, сколько модель весит и влезет ли она на твоё железо.

Грубая прикидка: в полном формате одна модель занимает примерно по 2 байта на параметр. Значит:

• 7B — это около 14 ГБ. Тяжело, но реально для хорошего ноутбука.
• 70B — около 140 ГБ. Дома почти нереально, нужен мощный сервер.

Есть хитрость — квантизация: числа ужимают, и та же 7B-модель влезает уже в ~4 ГБ почти без потери качества. Поэтому фразы вроде «эта модель запускается на ноутбуке» обычно про маленькие квантизованные версии.

Вывод, который останется с тобой: видишь «7B» — думаешь «лёгкая, можно дома»; видишь «70B+» — думаешь «это для облака». Число в названии — это сразу прайс-чек по железу.

Где ты с этим столкнёшься

Когда выбираешь открытую модель для запуска у себя. Когда сравниваешь варианты на OpenRouter или в каталоге моделей. Когда читаешь новость «вышла модель на X миллиардов параметров» — теперь ты понимаешь, большая она или карманная.

Параметры и токены — это одно и то же?

Нет, легко спутать. Токены — это кусочки текста, которые ты подаёшь модели и за которые платишь. Параметры — это внутренние «ручки» самой модели, их выставили раз и навсегда при обучении. Токены меняются с каждым запросом, параметры — нет.

А у ChatGPT сколько параметров?

У закрытых моделей вроде GPT или Claude точные числа обычно не раскрывают — это коммерческая тайна. Число B ты увидишь в основном у открытых моделей, которые можно скачать и запустить самому.