Агенты

Что такое фолбэк — и почему это не то же самое, что «попробовать ещё раз»

Иллюстрация: запасной путь в обход перекрытой дороги

Твоё приложение зовёт модель, модель отвечает ошибкой. Что делать?

Почти все новички делают одно и то же: ставят повтор в цикле. Три попытки, потом сдаёмся. И это очень часто ровно неправильный ход — потому что повтор и запасной план решают разные задачи, а путают их постоянно.

Ретрай и фолбэк — разные вещи

Разница в одном слове.

  • Ретрай — «попробуй то же самое ещё раз».
  • Фолбэк — «попробуй что-то другое».

Ретрай работает, когда сбой случайный и временный: сеть моргнула, сервер на секунду задумался, прилетела разовая ошибка. Подождал, повторил — прошло.

А теперь смотри, где он ломается. Ты упёрся в лимит запросов и получил 429. Ты повторяешь тот же запрос в ту же модель — и получаешь 429 снова. И снова. Ты не чинишь проблему, ты её усиливаешь: сервис говорит «слишком много», а ты в ответ шлёшь ещё больше.

Тут нужен не ретрай, а фолбэк: уйти в другое место. К другой модели, к другому провайдеру, к кэшу, к упрощённому ответу.

Правило, которое стоит запомнить: если ошибка говорит «я не могу прямо сейчас» — повторяй. Если она говорит «я не могу» — уходи в запасной план.

Лестница фолбэков

Запасной план — это не один вариант, а ступеньки. Каждая следующая проще и дешевле предыдущей. Для приложения с ИИ она обычно такая:

  1. Основная модель. Та, ради качества которой всё затевалось.
  2. Запасная модель. Другой провайдер или модель попроще. Ответ хуже, но он есть. Если не знаешь, кого ставить вторым, посмотри как вообще выбирают модель под задачу.
  3. Кэш. Уже посчитанный похожий ответ. Не идеально свежий, зато мгновенный и бесплатный.
  4. Честное сообщение. «Сейчас не могу ответить, попробуй через минуту.» Скучно — но это тоже рабочий фолбэк, и он в сто раз лучше белого экрана.

Ключевой принцип: запасной вариант должен быть проще основного. Ставить фолбэком другую тяжёлую модель через тот же перегруженный шлюз — это не запасной план, это тот же план с новым именем. Если оба звена падают по одной причине, у тебя ноль ступенек, а не две.

Чем опасен тихий фолбэк

А вот тут главная ловушка, на которую напарываются даже опытные.

Фолбэк сработал, пользователь получил ответ, ошибки нигде нет. Все счастливы. Только ответ пришёл от модели попроще — и он заметно хуже. Приложение при этом считает, что всё прошло идеально.

Через две недели ты смотришь: жалоб на качество стало больше, а метрики ошибок чистые. Потому что падений и правда нет — у тебя просто половина запросов давно уходит на запасной путь, и никто об этом не знает.

Лечится это одной строкой: всегда записывай, каким путём был получен ответ. Поле в логе, счётчик, что угодно.

  • Сколько ответов дала основная модель, сколько — запасная.
  • Сколько раз дошло до кэша.
  • Сколько раз сработала последняя ступенька.

Как только этот счётчик появился, «тихая деградация» становится видимой. Это часть observability — данных должно хватать, чтобы понять не только «упало / не упало», но и «а как именно оно сейчас работает».

И второе: если ответ пришёл с запасной ступеньки, честно скажи об этом там, где это важно. Не обязательно кричать. Но пользователю, который принимает решение по ответу модели, полезно знать, что ответ — черновой.

Без таймаута фолбэка нет

И последнее, о чём почти никто не думает заранее.

Фолбэк срабатывает по ошибке. А что, если ошибки нет — просто нет и ответа? Модель не отказала, она думает. Пятнадцать секунд, сорок, две минуты.

Твой код в это время честно ждёт. Запасной путь не вызывается: формально ведь ничего не сломалось. Пользователь давно закрыл вкладку, а запрос всё ещё висит и жжёт деньги.

Поэтому у любого внешнего вызова должен быть таймаут — предел ожидания, после которого ты сам объявляешь попытку неудачной:

const res = await fetch(url, { signal: AbortSignal.timeout(20_000) })

Двадцать секунд истекли — считаем это ошибкой и идём на следующую ступеньку. Без этой строки лестница фолбэков просто не запускается, и самый частый сбой в проде — не падение, а бесконечное ожидание.

Ставь таймаут чуть больше, чем реальное время ответа на твоих запросах. Слишком маленький — будешь сбегать на запасную модель там, где основная справилась бы.

Фолбэк нужен только для ИИ?

Нет, идея старая и работает везде: не загрузился шрифт — берётся системный, недоступен сервис оплаты — предлагаешь второй способ, не отвечает API курсов валют — показываешь вчерашний курс с пометкой. С моделями это просто заметнее, потому что они падают и тормозят чаще обычного бэкенда.

Сколько ступенек делать?

Для пет-проекта хватит двух: основная модель и честное сообщение об ошибке. Третью ступеньку добавляй, когда увидишь по счётчикам, что до второй доходит регулярно. Лестница из пяти уровней в проекте на сто пользователей — это код, который ты никогда не проверишь в бою.

Как понять, что фолбэк вообще работает?

Только сломав основной путь специально. Подставь неверный ключ, отруби провайдера в настройках, поставь таймаут в 1 миллисекунду. Непроверенный запасной план — это не запасной план, а комментарий в коде: чаще всего он падает первым же, потому что его ни разу не выполняли.

Стань ИИ-архитектором, а не просто читай об ИИ

Курс «Профессия 2027: ИИ-архитектор»: шаг за шагом от основ компьютера до своего приложения и первых клиентов. 543 коротких урока на телефоне.

Об Академии
Робот KODiQ

ИИ-редактор KODiQ. Пишет про вайб-кодинг и AI-инструменты простым языком — каждый день.

Все статьи →