Что такое circuit breaker — и почему ретраи делают аварию хуже

Смотри, неожиданная штука. Ты вызываешь ИИ-модель в цикле по сотне записей. Сервис провайдера падает. Сколько запросов ты в него отправишь?
Не сто. Триста.
Потому что официальный SDK ретраит сам. В Python-библиотеке Anthropic константа так и лежит: DEFAULT_MAX_RETRIES = 2. То есть один твой вызов — это до трёх походов на сервер, с паузой, которая растёт с 0,5 до 8 секунд. И ретраит он не только на 429 «слишком часто», а на 408, 409 и все коды 5xx — то есть ровно тогда, когда сервису и без тебя плохо.
Вот от этого и придуман circuit breaker.
Что такое circuit breaker в одной фразе
Circuit breaker («автоматический выключатель», он же паттерн-предохранитель) — это обёртка вокруг вызова чужого сервиса, которая считает ошибки и в какой-то момент перестаёт звонить вообще.
Не «звонит реже». Перестаёт. И сразу отдаёт ошибку сама, не дожидаясь таймаута.
Аналогия ровно та, что в названии. В квартире автомат в щитке не «уменьшает ток» при замыкании — он размыкает цепь целиком. Потому что при замыкании любой ток вреден. Здесь то же: если сервис лежит, любой твой запрос вреден дважды — он не принесёт ответа тебе и добавит нагрузки ему.
Почему ретраи делают аварию хуже
Ретрай — хорошая идея для случайного сбоя. Пакет потерялся, сервер моргнул — повтори, и всё получится.
Но авария устроена иначе: сервис не «моргнул», он не справляется. И тут повторы складываются:
- Каждый твой клиент повторяет по 2–3 раза.
- Каждый клиент, которому не ответили, повторяет тоже.
- Пользователь видит спиннер, жмёт кнопку ещё раз — и цикл идёт с начала.
Нагрузка не остаётся прежней, она умножается — как раз в тот момент, когда сервису нужно выдохнуть и подняться. У этого явления есть имя: retry storm, шторм повторов. Сервис, который упал бы на минуту, лежит десять — потому что его не отпускают.
Есть и вторая цена, про которую забывают. Пока ты ждёшь ответа от лежащего сервиса, ты держишь своё соединение, свой поток, свою память. Один упавший внешний API таким образом утягивает на дно твоё приложение — хотя твой код цел. Это и есть задержка, которая превращается в отказ.
Три состояния: замкнут, разомкнут, полуоткрыт
Весь паттерн — это маленький автомат на три положения.
Замкнут (closed). Обычная жизнь: запросы идут, предохранитель просто считает провалы. Условие обычно простое — «5 ошибок подряд» или «больше половины запросов за минуту упали».
Разомкнут (open). Порог пройден — и следующие, скажем, 30 секунд ты никуда не звонишь. На каждый вызов сразу отдаёшь ошибку или заготовленный ответ. Ноль ожидания, ноль нагрузки на чужой сервис, ноль занятых соединений у себя.
Полуоткрыт (half-open). 30 секунд прошли. Пропускаешь один пробный запрос. Прошёл — цепь замыкается, живём как раньше. Не прошёл — снова размыкаем на 30 секунд.
Вся хитрость в третьем состоянии. Без него ты либо навсегда отрубишь работающий сервис, либо в момент восстановления вывалишь на него всю накопленную очередь — и уронишь снова.
Чем это отличается от rate limit
Их постоянно путают, потому что по-русски оба зовут «предохранителем». Разница простая, и она про направление.
Rate limit — про частоту: «не больше 100 запросов в минуту», всегда, даже когда всё здорово. Он защищает от твоего собственного кривого цикла и от чужого перебора. Как поставить его руками — в разборе про rate limiting.
Circuit breaker — про состояние того, кому ты звонишь. Пока всё хорошо, он не мешает вообще: хоть 10 000 запросов. Как только та сторона начала падать — он выключает канал целиком.
Одно ограничивает тебя. Другое отпускает того, кому плохо. В нормальном приложении стоят оба.
Что тебе с этого
Ты пишешь пет-проект, и «отказоустойчивость» звучит как слово из корпоративной презентации. Но вот твой реальный сценарий: бот дёргает ИИ-API, у провайдера пятиминутный сбой, и твой бот на эти пять минут просто мёртв — все запросы висят в таймаутах.
С предохранителем он живой: отвечает «модель сейчас недоступна, попробуй через минуту» — мгновенно и без счёта за неудачные попытки.
Минимальная версия — это счётчик и метка времени, десяток строк:
let fails = 0, openUntil = 0;
async function callAI(prompt) {
if (Date.now() < openUntil) throw new Error('AI недоступен');
try {
const r = await ai(prompt);
fails = 0; // успех — обнуляем
return r;
} catch (e) {
if (++fails >= 5) openUntil = Date.now() + 30_000;
throw e;
}
}
Дальше поверх этого добавляют «что отдать вместо ответа»: кэш прошлого результата, шаблонный текст, модель попроще. И обязательно пиши в логи сам момент размыкания — иначе будешь искать, почему приложение «молча не работало» ровно полминуты.
Порог и паузу подбирают по факту, но здоровые стартовые значения — 5 ошибок подряд и 30 секунд.
Circuit breaker нужен только большим системам?
Нет. Он нужен всем, у кого есть чужой сервис в критическом пути: ИИ-API, платежи, отправка писем. Разница только в реализации: в проде берут готовую библиотеку, в пет-проекте хватает десяти строк выше.
Как понять, что предохранитель нужен, а не просто таймаут?
Таймаут ограничивает одну попытку, предохранитель — серию. Если сервис лежит, таймаут по 10 секунд честно отработает для каждого из ста запросов — это 1000 секунд ожидания на ровном месте. Ставь оба: таймаут короткий, предохранитель поверх.
Надёжность — не про сложные слова, а про несколько таких привычек. В KODiQ мы разбираем их по шагам и на «ты» — от первого запроса к API до приложения, которое не падает вместе с чужим сервером.
Курс «Профессия 2027: ИИ-архитектор»: шаг за шагом от основ компьютера до своего приложения и первых клиентов. 543 коротких урока на телефоне.





