Что такое стоп-последовательность — и как отличить полный ответ от обрезанного

Смотри, какая неприятная штука. Приходят два ответа от модели, и оба обрываются на полуслове. Первый обрывается потому, что ты сам так попросил — всё в порядке, работа сделана. Второй обрывается потому, что у модели кончился лимит — половина ответа потеряна.
По тексту ты их не отличишь. Вообще никак. Но в ответе API есть поле, которое говорит правду — и большинство новичков про него не знают. Давай разберёмся.
Что такое стоп-последовательность простыми словами
Начнём с неочевидного: модель не знает, что пора замолчать.
Она не пишет ответ целиком. Она выдаёт по одному токену за раз и после каждого решает, какой будет следующий. Остановка — это тоже решение, и иногда она его не принимает: продолжает писать, придумывает следующий вопрос за тебя, начинает новый диалог сама с собой.
Стоп-последовательность — это строка-стоп-кран. Ты говоришь заранее: «как только сгенерируешь вот такой кусок текста — немедленно прекращай». Модель доходит до него и замолкает.
В API это отдельный параметр запроса. У Anthropic он называется stop_sequences, у OpenAI — stop. Туда кладут список строк: например "\n\nЧеловек:", "###" или "</ответ>".
Типичный случай: ты просишь модель сыграть роль в диалоге, а она пишет и свою реплику, и твою следующую. Ставишь стоп-строку "\nТы:" — и она останавливается ровно там, где должен начаться твой ход.
Почему стоп-строки нет в ответе
Вот здесь ловушка, на которой спотыкаются почти все.
Сама стоп-последовательность не попадает в итоговый текст. Она срабатывает как триггер и обрезается.
Звучит логично, пока не поставишь в качестве стоп-строки что-то вроде двух переносов строки — "\n\n". Ты хотел «не пиши лишние абзацы», а получил ответ из одного абзаца: модель дошла до конца первого, поставила пустую строку — и всё, генерация закончилась. Текст обрезан по первому же совпадению.
Правило простое: стоп-строка должна быть такой, которая не встретится в нормальном ответе случайно. "###" или "</конец>" — хорошо. Точка, перенос строки, слово «Итак» — плохо.
Это не то же самое, что max_tokens
Рядом живёт параметр max_tokens — максимальная длина ответа. Их путают, а работают они по-разному:
max_tokens— грубый предохранитель. «Больше N токенов не выдавай, чем бы ты там ни занималась». Модель об этом лимите не знает и не подводит мысль к концу — её просто обрывают на полуслове.- Стоп-последовательность — смысловая граница. «Закончи вот здесь». Место обрыва осмысленное.
Отсюда и главный практический вывод: раз оба параметра обрывают текст, надо уметь понять, какой именно сработал.
Как отличить полный ответ от обрезанного
В ответе API есть поле с причиной остановки. Это и есть тот самый индикатор правды.
У Anthropic оно называется stop_reason:
end_turn— модель закончила сама. Ответ полный.stop_sequence— сработала твоя стоп-строка. Ответ полный, обрыв запланированный.max_tokens— упёрлись в лимит длины. Ответ обрезан.tool_use— модель хочет вызвать инструмент.refusal— модель отказалась отвечать.
У OpenAI поле называется finish_reason и значения другие: stop, length, tool_calls, content_filter. Обрати внимание на разницу: length — это аналог max_tokens, а вот stop у OpenAI склеивает два разных случая — «модель закончила сама» и «попала на твою стоп-строку». Anthropic их разделяет, OpenAI — нет. Если тебе важно знать, что именно случилось, на OpenAI придётся догадываться по тексту.
Практический минимум в любом коде, который ходит в модель:
- Получил ответ — сначала смотри на
stop_reason/finish_reason. - Увидел
max_tokens/length— не показывай текст как готовый. Либо подними лимит и повтори, либо честно скажи «ответ не поместился». - Всё остальное — можно показывать.
Ровно этот шаг отличает приложение, которое иногда молча врёт пользователю обрезанным текстом, от приложения, которое так не делает. Подробнее про сам симптом — в разборе, почему ИИ обрывает ответ на полуслове.
Когда стоп-последовательность реально нужна
Честно: реже, чем кажется. Современные модели неплохо останавливаются сами, и «попроси словами» обычно работает лучше, чем технический костыль — та же история, что с температурой и другими ручками.
Стоп-строки остаются полезными в трёх ситуациях:
- Разбор диалогов по ролям, когда модель норовит написать за обе стороны.
- Строгий формат вывода — ты сам обрамляешь блок маркером и режешь по нему.
- Экономия. Генерация обрывается сразу, и токены после стоп-строки не генерируются, а значит и не оплачиваются.
Во всех остальных случаях сначала попробуй просто объяснить задачу в промпте. Ручка нужна там, где слова не сработали.
Сколько стоп-последовательностей можно задать?
Обычно несколько — параметр принимает список строк, и срабатывает та, что встретится первой. Точное ограничение зависит от провайдера, так что смотри документацию своей модели. На практике одной-двух хватает почти всегда.
Стоп-последовательность экономит деньги?
Немного да. Всё, что после неё, просто не генерируется — значит, ты не платишь за выходные токены, которые всё равно бы выбросил. Но это приятный побочный эффект, а не главная цель: на входных токенах она не экономит ничего.
Курс «Профессия 2027: ИИ-архитектор»: шаг за шагом от основ компьютера до своего приложения и первых клиентов. 543 коротких урока на телефоне.





