Паттерны кеширования в больших и нагруженных системах

Кеш — простая штука. В одном месте сохранил, в другом прочитал — и система работает в миллион раз быстрее и стабильнее. Беда в том, что с ростом системы всё перестает быть простым. Данные не влезают в кеш, данных в кеше нет, именно когда они нужны, а пользователи видят светомузыку из устаревших на случайное время данных, испорченных данных и непонятных ошибок. Поговорим о том, как организовать сервис с обилием разных кешей, чтобы поддержка не была мучительна. О подходах к консистентности таких сервисов. Коротко — о подходах к ограничению размера кешей. И в целом систематизируем паттерны кешей.