Что такое RAG — как дать ИИ подсмотреть в твою шпаргалку

Смотри, странная штука. Модель никогда не видела твою рабочую инструкцию. Её не было, когда ИИ учили. А он берёт и отвечает по ней — точно, со ссылкой на нужный пункт.

Как так? Он что, подучился по-тихому?

Нет. Ему просто дали подсмотреть в шпаргалку прямо перед ответом. Этот приём и называется RAG.

Откуда ИИ вообще берёт ответы

Сначала про обычный чат. Без шпаргалки.

Модель отвечает по памяти — по тому, что впитала на этапе обучения. Это как человек, который много прочитал, а потом говорит по памяти.

И тут две дырки.

• Твоих личных документов в этой памяти нет. О вчерашнем письме коллеги ИИ знать не может.
• Память «застыла» на дне обучения. Что вышло позже — мимо.

Поэтому на вопрос по твоим бумагам обычная модель начинает гадать. А гадая, легко придумывает правдоподобную чушь.

Как работает шпаргалка

RAG затыкает обе дырки. И делает это до смешного просто.

Идея в трёх шагах:

• Найти. Из твоей кучи документов система выхватывает пару кусочков, которые реально про твой вопрос.
• Подсунуть. Эти кусочки она вклеивает прямо в запрос — как приписку «вот, держи под рукой».
• Ответить. Модель читает их вместе с вопросом и отвечает по ним, а не по памяти.

Вот и весь фокус. Сам ИИ не переучивается ни на грамм. Просто перед ответом у него на столе лежит нужная страница.

Английское название честно описывает порядок: retrieval-augmented generation — «ответ, усиленный поиском». Сначала находим, потом отвечаем.

Зачем тебе это знать

RAG звучит технически, но это под капотом у штук, которыми ты уже пользуешься.

• Бот по твоим документам. Загрузил папку с договорами — и спрашиваешь по ним человеческим языком.
• Поддержка, которая отвечает по базе компании. Не выдумывает, а тянет ответ из реальных инструкций.
• «Спроси у этого PDF». Кидаешь учебник и задаёшь вопросы прямо по нему.

И главный бонус: раз модель отвечает по тексту перед глазами, ей меньше повода врать. Хорошие системы ещё и покажут, из какого куска взяли ответ, — можно проверить.

Как только щёлкает образ шпаргалки, перестаёт удивлять, как ИИ «знает» твои свежие бумаги. Он их не знает. Он просто в них заглянул.