Что такое кэш — почему второй раз всегда быстрее (и дешевле)

Зайди на сайт первый раз — грузится пару секунд. Обнови страницу — и она появляется мгновенно. Что произошло за эту секунду?

Сработал кэш. И вот неожиданная штука: кэш — это не только про скорость. У запросов к ИИ есть свой кэш, который делает повторную часть запроса примерно в десять раз дешевле. То есть кэш экономит и время, и деньги. Сейчас разберёмся, как одна простая идея делает и то, и другое.

Что такое кэш

Кэш — это карман, куда складывают уже добытый результат, чтобы в следующий раз не добывать его заново. Достал один раз с дальней полки — положил поближе. Понадобилось снова — взял из кармана за миг.

Аналогия из жизни: ты не бегаешь к холодильнику за каждым глотком воды. Один раз налил стакан и поставил рядом — это и есть кэш. Дорогое действие (сходить, налить) сделано один раз, а пользуешься результатом много раз.

Как это работает — первый раз дорого, второй дёшево

Логика всегда одна и та же: перед тем как делать тяжёлую работу, проверь карман.

1. Пришёл запрос. Программа смотрит: «такой ответ уже лежит в кэше?»
2. Если да — отдаёт его сразу. Это «попадание» (cache hit) — быстро и дёшево.
3. Если нет — делает всю работу честно (лезет в базу, считает, грузит файл), отдаёт ответ и заодно кладёт копию в карман. Это «промах» (cache miss).

Поэтому первый заход всегда дороже: карман пустой, всё считается с нуля. А каждый следующий — почти бесплатный, пока ответ лежит в кэше.

Браузер делает ровно это с картинками и стилями сайта: скачал один раз, при обновлении берёт с диска. Отдельный приём — держать кэш физически ближе к человеку: на это работает CDN, сеть серверов по всему миру.

Кэш в ИИ: почему повторный промпт дешевле

А вот место, где кэш превращается прямо в деньги. Запрос к ИИ-модели стоит по количеству токенов — кусочков текста на входе и выходе. Если ты каждый раз шлёшь один и тот же большой кусок (длинную инструкцию, документ, контекст), платить за него заново обидно.

Тут включается «промпт-кэш». Провайдеры запоминают повторяющееся начало запроса, и при следующем обращении считают его не по полной цене, а со скидкой около 90% — то есть примерно в десять раз дешевле. Меняется только твой новый вопрос, а тяжёлая общая часть берётся из кармана.

Вывод, который стоит унести: кэш — это не «фишка для скорости», а базовый способ не платить дважды за одну и ту же работу. Поэтому он встроен почти везде — от браузера до ИИ.

Почему это важно тебе

Когда собираешь своё приложение, кэш решает две частые проблемы.

• Скорость. Не дёргай API или базу за тем, что не поменялось. Сохрани ответ и переиспользуй — страница летает, а ты реже упираешься в лимиты.
• Счёт за ИИ. Если гоняешь модель с одной и той же большой инструкцией, кэш этой инструкции режет расходы в разы. Подробнее — в разборе, как сэкономить на запросах к ИИ.

Обратная сторона у кэша одна, и о ней важно знать: иногда он отдаёт устаревшее. Данные на сервере уже поменялись, а в кармане лежит старая копия — и ты видишь вчерашнее. Отсюда и берётся вечный совет «почисти кэш».

Где ты с ним встретишься

Когда поменял картинку на сайте, а у тебя в браузере всё ещё старая (кэш не обновился). Когда приложение мгновенно показывает данные, которые «должны были грузиться». Когда счёт за ИИ оказался меньше ожидаемого — спасибо промпт-кэшу.

Почему «очистить кэш» так часто помогает?

Потому что в кармане застряла старая копия. Браузер показывает сохранённую версию страницы, хотя на сервере уже новая. Чистка кэша выкидывает старьё, и при следующем заходе всё скачивается заново — свежим. Это лечит «у меня всё по-старому, хотя вы говорите, что починили».

Кэш — это то же самое, что память?

Нет. Память (RAM) — это где программа держит данные, пока работает. Кэш — это приём: специально отложить готовый результат, чтобы не считать его повторно. Кэш часто живёт в памяти (так быстрее), но может лежать и на диске, и на отдельном сервере. Память — место, кэш — стратегия.