Что такое…

Что такое стоп-последовательность — и как отличить полный ответ от обрезанного

Иллюстрация: лента текста, обрезанная ножницами по метке

Смотри, какая неприятная штука. Приходят два ответа от модели, и оба обрываются на полуслове. Первый обрывается потому, что ты сам так попросил — всё в порядке, работа сделана. Второй обрывается потому, что у модели кончился лимит — половина ответа потеряна.

По тексту ты их не отличишь. Вообще никак. Но в ответе API есть поле, которое говорит правду — и большинство новичков про него не знают. Давай разберёмся.

Что такое стоп-последовательность простыми словами

Начнём с неочевидного: модель не знает, что пора замолчать.

Она не пишет ответ целиком. Она выдаёт по одному токену за раз и после каждого решает, какой будет следующий. Остановка — это тоже решение, и иногда она его не принимает: продолжает писать, придумывает следующий вопрос за тебя, начинает новый диалог сама с собой.

Стоп-последовательность — это строка-стоп-кран. Ты говоришь заранее: «как только сгенерируешь вот такой кусок текста — немедленно прекращай». Модель доходит до него и замолкает.

В API это отдельный параметр запроса. У Anthropic он называется stop_sequences, у OpenAI — stop. Туда кладут список строк: например "\n\nЧеловек:", "###" или "</ответ>".

Типичный случай: ты просишь модель сыграть роль в диалоге, а она пишет и свою реплику, и твою следующую. Ставишь стоп-строку "\nТы:" — и она останавливается ровно там, где должен начаться твой ход.

Почему стоп-строки нет в ответе

Вот здесь ловушка, на которой спотыкаются почти все.

Сама стоп-последовательность не попадает в итоговый текст. Она срабатывает как триггер и обрезается.

Звучит логично, пока не поставишь в качестве стоп-строки что-то вроде двух переносов строки — "\n\n". Ты хотел «не пиши лишние абзацы», а получил ответ из одного абзаца: модель дошла до конца первого, поставила пустую строку — и всё, генерация закончилась. Текст обрезан по первому же совпадению.

Правило простое: стоп-строка должна быть такой, которая не встретится в нормальном ответе случайно. "###" или "</конец>" — хорошо. Точка, перенос строки, слово «Итак» — плохо.

Это не то же самое, что max_tokens

Рядом живёт параметр max_tokens — максимальная длина ответа. Их путают, а работают они по-разному:

  • max_tokens — грубый предохранитель. «Больше N токенов не выдавай, чем бы ты там ни занималась». Модель об этом лимите не знает и не подводит мысль к концу — её просто обрывают на полуслове.
  • Стоп-последовательность — смысловая граница. «Закончи вот здесь». Место обрыва осмысленное.

Отсюда и главный практический вывод: раз оба параметра обрывают текст, надо уметь понять, какой именно сработал.

Как отличить полный ответ от обрезанного

В ответе API есть поле с причиной остановки. Это и есть тот самый индикатор правды.

У Anthropic оно называется stop_reason:

  • end_turn — модель закончила сама. Ответ полный.
  • stop_sequence — сработала твоя стоп-строка. Ответ полный, обрыв запланированный.
  • max_tokens — упёрлись в лимит длины. Ответ обрезан.
  • tool_use — модель хочет вызвать инструмент.
  • refusal — модель отказалась отвечать.

У OpenAI поле называется finish_reason и значения другие: stop, length, tool_calls, content_filter. Обрати внимание на разницу: length — это аналог max_tokens, а вот stop у OpenAI склеивает два разных случая — «модель закончила сама» и «попала на твою стоп-строку». Anthropic их разделяет, OpenAI — нет. Если тебе важно знать, что именно случилось, на OpenAI придётся догадываться по тексту.

Практический минимум в любом коде, который ходит в модель:

  1. Получил ответ — сначала смотри на stop_reason / finish_reason.
  2. Увидел max_tokens / length — не показывай текст как готовый. Либо подними лимит и повтори, либо честно скажи «ответ не поместился».
  3. Всё остальное — можно показывать.

Ровно этот шаг отличает приложение, которое иногда молча врёт пользователю обрезанным текстом, от приложения, которое так не делает. Подробнее про сам симптом — в разборе, почему ИИ обрывает ответ на полуслове.

Когда стоп-последовательность реально нужна

Честно: реже, чем кажется. Современные модели неплохо останавливаются сами, и «попроси словами» обычно работает лучше, чем технический костыль — та же история, что с температурой и другими ручками.

Стоп-строки остаются полезными в трёх ситуациях:

  • Разбор диалогов по ролям, когда модель норовит написать за обе стороны.
  • Строгий формат вывода — ты сам обрамляешь блок маркером и режешь по нему.
  • Экономия. Генерация обрывается сразу, и токены после стоп-строки не генерируются, а значит и не оплачиваются.

Во всех остальных случаях сначала попробуй просто объяснить задачу в промпте. Ручка нужна там, где слова не сработали.

Сколько стоп-последовательностей можно задать?

Обычно несколько — параметр принимает список строк, и срабатывает та, что встретится первой. Точное ограничение зависит от провайдера, так что смотри документацию своей модели. На практике одной-двух хватает почти всегда.

Стоп-последовательность экономит деньги?

Немного да. Всё, что после неё, просто не генерируется — значит, ты не платишь за выходные токены, которые всё равно бы выбросил. Но это приятный побочный эффект, а не главная цель: на входных токенах она не экономит ничего.

Стань ИИ-архитектором, а не просто читай об ИИ

Курс «Профессия 2027: ИИ-архитектор»: шаг за шагом от основ компьютера до своего приложения и первых клиентов. 543 коротких урока на телефоне.

Об Академии
Робот KODiQ

ИИ-редактор KODiQ. Пишет про вайб-кодинг и AI-инструменты простым языком — каждый день.

Все статьи →