Векторный поиск или поиск по словам — что выбрать для ИИ-поиска по своим данным

Ты собрал поиск по своим документам на эмбеддингах. Работает отлично: спрашиваешь «как вернуть деньги» — находит раздел про возвраты, хотя слова «вернуть» там нет.
А потом приходит пользователь и ищет SKU-4471. И поиск уверенно выдаёт пять красивых, совершенно не тех абзацев.
Вот что тут неприятно: ничего не сломалось. Ошибки нет, лог чистый, модель бодро сочиняет ответ по неправильным кускам. Промах векторного поиска — молчаливый, и это главная причина, почему его почти никогда не оставляют в одиночку.
Два разных сита
BM25 — это поиск по словам, и он не нейросеть. Это формула из девяностых: считает, сколько раз слово из запроса встречается в документе, и взвешивает его по редкости. Слово «и» есть везде — оно почти ничего не значит. Слово SKU-4471 встречается в одном документе из десяти тысяч — значит, совпадение по нему стоит дорого. Никакого обучения, только статистика по твоим текстам.
Векторный поиск сравнивает смыслы. Текст превращают в эмбеддинг — набор чисел, и близкие по смыслу тексты оказываются рядом в пространстве. Поэтому он и находит «возврат» по запросу «вернуть деньги»: буквы разные, направление одно. Как это устроено подробнее — в статье про семантический поиск.
Разница в одной фразе: BM25 ищет те же слова, вектор — ту же мысль.
| Критерий | Поиск по словам (BM25) | Векторный поиск | |---|---|---| | Что находит лучше всего | артикулы, коды ошибок, имена, названия функций, точные фразы | вопросы своими словами, синонимы, перефразировки | | Где промахивается | пользователь спросил другими словами — ноль результатов | редкое слово растворяется в общем смысле | | Как выглядит промах | пустой список — сразу видно | пять уверенных, но не тех результатов — не видно | | Что нужно завести | ничего, кроме индекса в базе | модель эмбеддингов + хранилище векторов | | Стоимость | считается на месте | платишь за векторизацию текстов и запросов | | Новые данные | проиндексировал — работает | нужно пересчитать эмбеддинги | | Настройка под язык | нужен разбор слов (стемминг, стоп-слова) | работает из коробки, часто и между языками |
Почему один не заменяет другого
Соблазн есть: раз векторный поиск «умнее», давайте только его. На бенчмарках это не подтверждается. В BEIR — большом наборе тестов на разных доменах — обычный BM25 остаётся крепким соперником и обыгрывает плотные модели на текстах, не похожих на то, на чём модель училась: медицина, юридические тексты, узкие каталоги с кодами и артикулами.
Причина понятна, если помнить механику. Эмбеддинг — это сжатие. Он тянет к себе общий смысл фразы, а редкий токен вроде номера детали — ровно та деталь, которая при сжатии теряется первой. Для человека SKU-4471 и SKU-4472 — разные вещи; для модели смысла — почти одна точка.
И наоборот: BM25 беспомощен, когда в документе написано «оформление возврата», а человек спрашивает «как вернуть деньги за товар». Общих слов нет — совпадений нет.
Как их склеивают: не усреднением, а по местам
Первая мысль — сложить оценки. Она не работает, и это стоит понять сразу.
Шкалы несравнимы. BM25 выдаёт неограниченное число, которое зависит от статистики твоей коллекции: где-то 3, где-то 18. Косинусная близость сидит в узком диапазоне около единицы. Сложить их — получить число без смысла, а нормировать по каждому запросу хрупко: один выброс, и рейтинг разъезжается.
Поэтому стандартом стал RRF (Reciprocal Rank Fusion) — приём из статьи 2009 года, который просто выбрасывает очки и оставляет места. Каждый документ получает 1 / (k + место) в каждом списке, а потом эти доли складываются; k обычно 60. Документ, который у обоих поисков в первой десятке, обгоняет тот, что у одного первый, а у другого не найден вовсе.
Ничего обучать не надо, формула помещается в одну строку — и именно она стоит под гибридным поиском в Elasticsearch, OpenSearch, Azure AI Search, Weaviate и Qdrant. Если твоя база умеет и полнотекстовый, и векторный поиск, гибрид — это чаще всего один запрос, а не отдельный сервис.
Кому что подойдёт
- Только BM25 — если ищут по коротким точным штукам: товары по артикулу, логи по коду ошибки, документы по номеру. Дёшево, предсказуемо, ноль зависимостей. Начинать стоит отсюда: полнотекстовый поиск есть в любой нормальной базе.
- Только вектор — если запросы длинные и человеческие, а данные однородные: база знаний поддержки, конспекты, переписка. И если ты готов платить за векторизацию.
- Гибрид — как только в данных есть и то и другое: названия, коды, имена файлов рядом с человеческим текстом. Для RAG это состояние по умолчанию — модель не может ответить по документу, который поиск не достал.
Практический порядок: сначала BM25, потому что он уже есть; потом добавь вектор, когда увидишь провалы на перефразировках; потом склей их через RRF. Не наоборот — иначе первый же артикул превратится в тот самый молчаливый промах.
Это то же самое, что полнотекстовый поиск в базе?
Практически да: то, что в Postgres называется полнотекстовым поиском, — это семейство алгоритмов, куда входит и BM25. Отдельный поисковый движок нужен, когда упираешься в объём или в тонкую настройку ранжирования.
Гибрид дороже обычного поиска?
Дороже одним запросом к базе и одной векторизацией запроса — обычно это десятки миллисекунд. На фоне ответа модели, который занимает секунды, разница почти не видна, а промахов становится заметно меньше.
Как понять, что мой поиск промахивается?
Собери двадцать реальных запросов пользователей и посмотри глазами, что вернулось. Специально добавь туда артикулы, коды ошибок и имена собственные — именно на них молчаливый промах и вылезает.
Курс «Профессия 2027: ИИ-архитектор»: шаг за шагом от основ компьютера до своего приложения и первых клиентов. 543 коротких урока на телефоне.





