Что такое экспоненциальный бэкофф — и почему без случайности он не спасает

Смотри, обидная штука. Сервис ответил «слишком много запросов». Ты сделал всё по учебнику: подождал секунду, потом две, потом четыре.
И всё равно его добил.
Потому что так же поступили ещё сто клиентов. Вы ждали одинаково — и вернулись одной волной.
Что такое экспоненциальный бэкофф
Это правило пауз между повторами: каждая следующая пауза вдвое длиннее прошлой.
- первый повтор — через 1 секунду
- второй — через 2
- дальше 4, 8, 16…
Зачем так. Если сервис захлебнулся, ему нужно время. Повтор через 50 миллисекунд подливает нагрузку ровно туда, где её и так слишком много. Экспонента даёт передышку, которая растёт сама, пока проблема не рассосётся.
Пока всё логично. Беда прячется в слове «одинаково».
Почему одной экспоненты мало
Клиент у сервиса не один. Когда он лежит, ошибку получают все сразу — и все запускают один и тот же секундомер.
Через секунду прилетает волна. Сервис снова захлёбывается. Через две — снова волна, ровно такой же формы. Сервис не восстанавливается, он просто получает удары реже.
Инженеры AWS это замерили: при честном экспоненциальном бэкоффе на графике «всё ещё видны кластеры вызовов», а конкуренция за сервис почти не падает. Периоды тишины, потом залп.
Джиттер — случайность, без которой не работает
Джиттер — это случайная добавка к паузе. Вместо «ждём ровно 4 секунды» — «ждём случайное время от нуля до четырёх».
Формула, которую стоит запомнить (её называют full jitter):
пауза = random(0, min(потолок, база * 2 ** номер_попытки))
Смотри, что изменилось. Волна размазалась: кто-то вернулся через 0,3 секунды, кто-то через 3,8. Сервис получает ровный ручеёк вместо тарана — и успевает разгрестись.
В том же замере AWS полный джиттер срезал количество вызовов больше чем вдвое по сравнению с бэкоффом без случайности. Одна строчка кода.
Что повторять, а что бесполезно
Бэкофф спасает только от временных отказов. Проверка простая: изменится ли хоть что-нибудь, если подождать?
Повторять имеет смысл:
- 429 — лимит запросов исчерпан, через минуту окно обнулится
- 500, 502, 503, 504 — сервер, шлюз, перегрузка
- обрыв связи и таймаут — ответа не было вообще
Повторять бессмысленно:
- 400 — ты прислал кривой JSON, через час он не выпрямится
- 401 и 403 — не тот ключ или нет прав (частая история)
- 404 — объекта нет
- 422 — данные не прошли проверку
Повтор на 401 — это не отказоустойчивость. Это бесплатная атака на самого себя.
Если сервер сам сказал, сколько ждать
Иногда в ответе приезжает заголовок Retry-After — чаще всего при 429 и 503. Внутри либо число секунд (Retry-After: 120), либо дата.
Правило: если он есть — слушайся его, свою формулу применяй только когда его нет. Но не считай его гарантией. MDN прямо предупреждает, что поддержка Retry-After до сих пор непоследовательна — половина сервисов его просто не шлёт.
Причём тут ИИ
Очень даже причём. API моделей лимитируют жёстко, а агент ходит в инструменты сам, без тебя. Наивный цикл «не вышло — пробуй снова» у агента выглядит так: двадцать запросов в секунду, весь дневной лимит за минуту и счёт, который ты увидишь завтра.
Бэкофф с потолком и ограничением числа попыток — то, что отличает рабочего агента от петли отчаяния.
Дальше — практика: как повторять запросы правильно, по шагам и с ключом идемпотентности.
Три ошибки, которые встречаются чаще всего
Повторы внутри повторов. Самая коварная. Библиотека HTTP-клиента уже делает 3 попытки, ты сверху обернул своей логикой ещё на 5 — получилось 15 запросов вместо 5, и потолок паузы у каждого слоя свой. Проверь настройки клиента, прежде чем писать свой цикл: часто повторы уже включены по умолчанию.
Повтор без потолка. 2 ** 10 — это примерно 17 минут. Пользователь давно ушёл, а твой процесс всё ещё ждёт.
Повтор без ограничения общего времени. Пять попыток по 20 секунд — это полторы минуты, в течение которых запрос занимает соединение и память. Ограничивай не только количество, но и суммарный бюджет времени.
Сколько раз стоит повторять?
Для фоновой задачи — три-пять попыток. Для запроса, где ждёт живой человек, — одна-две и честная ошибка: пользователю лучше увидеть «попробуйте ещё раз», чем крутящийся кружок на минуту. Потолок паузы ставь всегда, обычно 20–60 секунд.
Бэкофф — это то же самое, что таймаут?
Нет, и путать их дорого. Таймаут говорит, сколько ждать один ответ. Бэкофф — сколько ждать между попытками. Без таймаута повтор может просто не наступить: запрос будет вечно висеть в ожидании ответа, которого нет.
Джиттер не сделает ответ медленнее?
В среднем — наоборот. Случайная пауза иногда короче фиксированной, а главное — сервис перестаёт падать от твоих же повторов. Быстрее всего отвечает тот сервис, который ты не добиваешь.
Курс «Профессия 2027: ИИ-архитектор»: шаг за шагом от основ компьютера до своего приложения и первых клиентов. 543 коротких урока на телефоне.





