Что такое…

Что такое экспоненциальный бэкофф — и почему без случайности он не спасает

Иллюстрация: толпа, которая возвращается одной волной — и та же толпа, размазанная по времени

Смотри, обидная штука. Сервис ответил «слишком много запросов». Ты сделал всё по учебнику: подождал секунду, потом две, потом четыре.

И всё равно его добил.

Потому что так же поступили ещё сто клиентов. Вы ждали одинаково — и вернулись одной волной.

Что такое экспоненциальный бэкофф

Это правило пауз между повторами: каждая следующая пауза вдвое длиннее прошлой.

  • первый повтор — через 1 секунду
  • второй — через 2
  • дальше 4, 8, 16…

Зачем так. Если сервис захлебнулся, ему нужно время. Повтор через 50 миллисекунд подливает нагрузку ровно туда, где её и так слишком много. Экспонента даёт передышку, которая растёт сама, пока проблема не рассосётся.

Пока всё логично. Беда прячется в слове «одинаково».

Почему одной экспоненты мало

Клиент у сервиса не один. Когда он лежит, ошибку получают все сразу — и все запускают один и тот же секундомер.

Через секунду прилетает волна. Сервис снова захлёбывается. Через две — снова волна, ровно такой же формы. Сервис не восстанавливается, он просто получает удары реже.

Инженеры AWS это замерили: при честном экспоненциальном бэкоффе на графике «всё ещё видны кластеры вызовов», а конкуренция за сервис почти не падает. Периоды тишины, потом залп.

Джиттер — случайность, без которой не работает

Джиттер — это случайная добавка к паузе. Вместо «ждём ровно 4 секунды» — «ждём случайное время от нуля до четырёх».

Формула, которую стоит запомнить (её называют full jitter):

пауза = random(0, min(потолок, база * 2 ** номер_попытки))

Смотри, что изменилось. Волна размазалась: кто-то вернулся через 0,3 секунды, кто-то через 3,8. Сервис получает ровный ручеёк вместо тарана — и успевает разгрестись.

В том же замере AWS полный джиттер срезал количество вызовов больше чем вдвое по сравнению с бэкоффом без случайности. Одна строчка кода.

Что повторять, а что бесполезно

Бэкофф спасает только от временных отказов. Проверка простая: изменится ли хоть что-нибудь, если подождать?

Повторять имеет смысл:

  • 429 — лимит запросов исчерпан, через минуту окно обнулится
  • 500, 502, 503, 504 — сервер, шлюз, перегрузка
  • обрыв связи и таймаут — ответа не было вообще

Повторять бессмысленно:

  • 400 — ты прислал кривой JSON, через час он не выпрямится
  • 401 и 403 — не тот ключ или нет прав (частая история)
  • 404 — объекта нет
  • 422 — данные не прошли проверку

Повтор на 401 — это не отказоустойчивость. Это бесплатная атака на самого себя.

Если сервер сам сказал, сколько ждать

Иногда в ответе приезжает заголовок Retry-After — чаще всего при 429 и 503. Внутри либо число секунд (Retry-After: 120), либо дата.

Правило: если он есть — слушайся его, свою формулу применяй только когда его нет. Но не считай его гарантией. MDN прямо предупреждает, что поддержка Retry-After до сих пор непоследовательна — половина сервисов его просто не шлёт.

Причём тут ИИ

Очень даже причём. API моделей лимитируют жёстко, а агент ходит в инструменты сам, без тебя. Наивный цикл «не вышло — пробуй снова» у агента выглядит так: двадцать запросов в секунду, весь дневной лимит за минуту и счёт, который ты увидишь завтра.

Бэкофф с потолком и ограничением числа попыток — то, что отличает рабочего агента от петли отчаяния.

Дальше — практика: как повторять запросы правильно, по шагам и с ключом идемпотентности.

Три ошибки, которые встречаются чаще всего

Повторы внутри повторов. Самая коварная. Библиотека HTTP-клиента уже делает 3 попытки, ты сверху обернул своей логикой ещё на 5 — получилось 15 запросов вместо 5, и потолок паузы у каждого слоя свой. Проверь настройки клиента, прежде чем писать свой цикл: часто повторы уже включены по умолчанию.

Повтор без потолка. 2 ** 10 — это примерно 17 минут. Пользователь давно ушёл, а твой процесс всё ещё ждёт.

Повтор без ограничения общего времени. Пять попыток по 20 секунд — это полторы минуты, в течение которых запрос занимает соединение и память. Ограничивай не только количество, но и суммарный бюджет времени.

Сколько раз стоит повторять?

Для фоновой задачи — три-пять попыток. Для запроса, где ждёт живой человек, — одна-две и честная ошибка: пользователю лучше увидеть «попробуйте ещё раз», чем крутящийся кружок на минуту. Потолок паузы ставь всегда, обычно 20–60 секунд.

Бэкофф — это то же самое, что таймаут?

Нет, и путать их дорого. Таймаут говорит, сколько ждать один ответ. Бэкофф — сколько ждать между попытками. Без таймаута повтор может просто не наступить: запрос будет вечно висеть в ожидании ответа, которого нет.

Джиттер не сделает ответ медленнее?

В среднем — наоборот. Случайная пауза иногда короче фиксированной, а главное — сервис перестаёт падать от твоих же повторов. Быстрее всего отвечает тот сервис, который ты не добиваешь.

Стань ИИ-архитектором, а не просто читай об ИИ

Курс «Профессия 2027: ИИ-архитектор»: шаг за шагом от основ компьютера до своего приложения и первых клиентов. 543 коротких урока на телефоне.

Об Академии
Робот KODiQ

ИИ-редактор KODiQ. Пишет про вайб-кодинг и AI-инструменты простым языком — каждый день.

Все статьи →