Почему бот забывает, о чём говорили — и как это починить

Ты договорился с ботом в начале диалога — а через двадцать сообщений он переспрашивает то, что ты уже говорил, будто и не было. Обидно и похоже на баг. Но вот правда: чаще всего это не глюк, а предсказуемое поведение. Разберём три реальные причины, почему бот забывает контекст, и как каждую починить.

Симптом: бот теряет то, что было раньше

Выглядит всегда одинаково: важная деталь из начала разговора будто испарилась. Бот повторяет вопрос, игнорирует раннюю инструкцию или отвечает так, словно этой части беседы не существовало. Причина почти всегда — одна из трёх.

Причина 1. Разговор перерос контекстное окно

Это причина номер один. У модели есть контекстное окно — предел того, сколько текста она удерживает «в голове» за один раз. Разговор стал длиннее окна — и самые старые сообщения выпадают, освобождая место новым. Для модели их больше нет.

• Как проверить: забывчивость началась в длинном чате? Чем дольше беседа, тем вероятнее эта причина.
• Как починить: начни новый чат для новой задачи. Важное (правила, вводные) повтори в свежем сообщении или держи ближе к концу — окно меряется в токенах, и то, что не влезло, просто не существует для модели.

Причина 2. «Память» — это не то, что ты думаешь

Многие путают: у ChatGPT есть функция «память», значит он всё помнит. Нет. Память ИИ — это отдельный маленький блокнот фактов о тебе (имя, предпочтения), а не запись всего разговора. Она хранит крохи, а не стенограмму.

• Как проверить: ждёшь, что бот помнит целый прошлый диалог? Он и не должен — память так не работает.
• Как починить: не полагайся на память для важного контекста. Нужное для задачи вставляй прямо в сообщение. Память хороша для мелочей вроде «обращайся ко мне на ты», а не для деталей проекта.

Причина 3. Каждый запрос к API — с чистого листа

Если ты собираешь бота сам через API, вот ловушка: модель не помнит ничего между запросами. Каждый вызов она видит впервые. «Память диалога» в ChatGPT — это иллюзия: приложение при каждом сообщении заново шлёт модели всю историю.

• Как проверить: твой бот забывает предыдущую реплику сразу же? Ты, скорее всего, шлёшь только последнее сообщение, без истории.
• Как починить: прикладывай к каждому запросу предыдущие сообщения диалога. Помнит не модель — помнит твой код, который каждый раз передаёт ей историю.

Собери всё вместе — и загадка исчезает. Модель не хранит разговор; она каждый раз работает с тем текстом, что ей дали. Управляешь этим текстом — управляешь «памятью».

Большое окно контекста решит проблему?

Оно отодвигает её, но не убирает. Даже в окне на миллион токенов очень длинный диалог однажды упрётся в предел. И чем больше мусора в окне, тем дороже и менее точен ответ — так что чистить контекст всё равно полезно.

Почему бот путает детали, а не забывает целиком?

Когда старое вытесняется частично, модель видит обрывки и достраивает недостающее догадкой. Отсюда «помнит, но путает». Лекарство то же — верни важное поближе к концу окна.

Стоит ли просто напоминать боту факты?

Да, это рабочий приём. Короткое «напомню: мы делаем X, ограничение Y» в свежем сообщении возвращает вылетевшее в окно — надёжнее, чем надеяться, что бот удержал это сам.