кэш что это означает простыми словами
Что такое кэш простыми словами
Кэш простыми словами – это пространство электронного устройства (ПК, телефона, планшета, сервера) или программного обеспечения (браузера), используемое как временное хранилище информации, полученной при работе с различными ресурсами.
Кэш также означает временные данные, файлы, которые находятся на хранении в памяти устройства.
Кэширование – это процесс сохранения данных во время работы на сайте с целью ускорить получение информации при повторном запросе.
Важно! Для профилактики медленной работы компьютера, сохранения конфиденциальности и получения актуальной информации программная кэш-память нуждается в периодической очистке.
Кэш в компьютере
Во время работы компьютера, операционная система использует программное кэширование. В папке откладываются временные системные и файлы программ, обновления, отчёты об исправлениях ошибок, копии страниц сайтов.
Ещё одним видом кэша на ПК является файл подкачки – дополнительное ОЗУ при недостатке оперативной памяти. Сюда отправляются данные, которые могут понадобиться позже.
Кэш в браузере
Opera, Rambler, Chrome, Яндекс и любой другой браузер используют программное кэширование, в котором хранятся страницы посещаемых сайтов. Это обеспечивает доступ к информации при отсутствии подключения к интернету.
Благодаря наличию в кэше повторяющихся элементов другие страницы сайта загружаются быстрее даже при первом посещении.
Но при активном пользовании память перегружается информацией с различных веб-страниц, что значительно снижает скорость загрузки. Так как при запросе данных поиск вначале ведётся среди кэшированных страниц, а уже потом на просторах сети.
Кэш в телефоне
В телефоне в процессе работы программ ОС в кэш отправляются временные файлы: отчёты о работе и сбоях, мини-копии снимков из галереи, страницы интернет-сайтов.
Важным компонентом кэша являются дополнения к закаченным онлайн-играм и приложениям, без которых последние не запустятся, остановятся на определённом уровне или их функции будут ограничены. Сюда относятся библиотеки, пакеты с языками, текстуры.
Кто и когда придумал термин?
Слово «кэш», означающий буферную память в мире компьютеров, стало использоваться с 1968 года. Предложил его редактор Лайл Джонсон, когда работал над статьёй в журнал «IBM Systems Juornal» на тему улучшения качества памяти 85 модели компьютера IBM System/360, чтобы заменить сложное словосочетание «высокоскоростной буфер».
Важно! В русский язык слово «кэш» как компьютерный термин пришло от английского «cache», что означает «тайник», «тайный склад».
В разговорной речи существует созвучное с ним «cash», которое переводится как «наличные деньги».
Что такое кэш в компьютере, телефоне, браузере и что такое кэширование сайта простыми словами
С появлением компьютера и развитием Интернета в наш лексикон ворвалось много новых терминов. Один из них – кэш. Что это такое простыми словами? Попробуем в этом разобраться.
Общие понятия о кэше
Согласно Википедии, кэшем называют промежуточный буфер памяти, который содержит информацию с наибольшей вероятностью запроса. Скорость доступа к этой памяти гораздо больше, чем получение данных из исходного хранилища.
Часто кэшем называют также временные файлы и данные, хранящиеся в памяти компьютера, телефона, браузера или сервера.
Процесс сохранения информации в кэш называют кэшированием.
Для более ясного понимания, что такое кэш, можно привести такую аналогию.
Допустим вам нужно приготовить доклад на какую-то тему. Для этого вам нужны определенные документы, книги. Вы идете в библиотеку, выбираете нужные вам материалы, приносите домой и кладете на свой рабочий стол. Теперь для получения нужной информации достаточно протянуть руку и открыть соответствующую книгу. В данном случае рабочий стол играет роль кэша.
Назначение кэша – сократить время доступа к информации и, тем самым увеличить быстродействие компьютера или программы.
Типы кэша
Кеширование применяется во многих случаях, когда нужно увеличить скорость работы с данными, поэтому реализовать его можно по-разному. Выделяют два способа кэширования:
Рассмотрим эти способы немного подробнее.
Аппаратная реализация
Такой способ кэширования основан на использовании специального устройства памяти для хранения и быстрого извлечения информации.
Например, жесткий диск имеет специальную микросхему в качестве такого хранилища.
Сложную многоступенчатую систему кэширования имеет центральный процессор или мобильные устройства. Естественно, увеличить размер аппаратного кэша нельзя.
Программная реализация
При таком способе кэширования для временного сохранения данных выделяется область на диске, в которой ОС или приложение хранят часто используемые файлы. При каждом запросе пользователя программа сначала обращается за данными к кэшу, и, если эти данные отсутствуют, загружает их из удаленных источников, например, Интернета.
При программном кэшировании размер кэша зависит от размера свободного дискового пространства, а скорость загрузки – от типа носителя.
Кэширование на компьютере
Операционная система компьютера использует программное кэширование. В выделенной области диска хранятся различные временные файлы, которые возникают при работе компьютера.
Кэшированием можно назвать и использование так называемого файла подкачки, который создает ОС на диске ПК.
Как известно, при работе компьютера файлы программ и обрабатываемые данные загружаются в оперативную память для более быстрого доступа к ним. Но этой памяти может быть недостаточно, тогда часть данных отправляется в файл подкачки, который играет роль дополнительного ОЗУ. Объем этого файла регулируется ОС и тем самым компенсируется недостаток оперативной памяти.
Что такое кэш на телефоне
Современные телефоны и смартфоны также используют кэш в своей работе, но здесь это понятие несколько шире. Кэш на телефоне — это не только временные файлы, но и дополнения к программам и играм. Без них программы и игры будут иметь ограничения в работе, а в некоторых случаях даже не запустятся.
или 
Что такое кэш браузера
Любой современный браузер (Chrome, Opera, Mozilla и т. д.) обязательно использует кэширование. Это необходимо для быстрой загрузки веб-страниц и экономии трафика. Это достаточно легко проверить. Если измерить время загрузки страницы при первом посещении сайта и время ее повторной загрузки, то они могут заметно отличаться, так как во втором случае многие файлы, составляющие эту страницу, будут загружаться из кэша на жестком диске вашего компьютера, а не из Интернета.
В браузере используется программное кеширование. Эта технология позволяет быстрее загружать и последующие страницы сайта, хотя заходим на них только первый раз. Объясняется это тем, что на них обязательно присутствуют повторяющиеся элементы (шапка, подвал, сайдбар и т. д.), которые уже сохранены в кэше после посещения одной страницы.
Кэширование браузером веб-страниц имеет и недостатки. Например, если мы посещаем много различных сайтов, то кэш оказывается заполненным информацией о них, а при заходе на новый сайт браузер сначала пытается найти информацию о нем в кэше и, только не найдя ничего, начинает загрузку из Интернета. В результате время загрузки оказывается даже больше, чем без кэширования. Поэтому кэш браузера необходимо периодически чистить.
Кэш центрального процессора
Процессоры имеют огромную скорость обработки данных, которую не может обеспечить оперативная память. Именно поэтому центральный процессор использует кэширование, при этом он имеет 2-3 уровня кэш-памяти, которые обозначаются L1-L2 (Level 1-3). Уровень L1 имеет наименьший объем, но наибольшую скорость работы. Он работает на той же частоте, что и процессор. Последующие уровни имеют соответственно меньшую скорость работы, но больший объем. Иногда кэш-память центрального процессора называют сверхоперативной памятью.
Очистка кэша
Нужно ли чистить кэш? Вернемся к нашей аналогии с библиотекой и рабочим столом.
Допустим, вы закончили свой доклад, но книги, которые взяли в библиотеке, еще не вернули, они остались на столе. Теперь вы начали готовить новый текст, для которого принесли новые книги и положили на стол. Ели продолжать в том же духе, то через некоторое время ваш рабочий стол будет завален книгами, большинство из которых вам уже не нужно, черновиками и т. д. Конечно, работать в этом случае будет труднее, и находить нужную информацию вы будете все медленнее. Поэтому ненужные книги нужно сдавать в библиотеку, а черновики выбрасывать. 
Точно также нужно периодически чистить кэш, причем, когда говорится об очистке, имеется в виду программный кэш. Аппаратный кэш – это микросхемы, которые содержат данные только при работе компьютера, а при его выключении все автоматически исчезает.
Для очистки кэша существуют как встроенные, так и специальные программные средства. Рассмотрим некоторые, наиболее важные.
Как очистить кэш браузера
У каждого браузера в меню есть команда для очистки кэша. Найти ее несложно, но сделаю подсказки для наиболее распространенных браузеров.
Google Chrome
В правом верхнем углу браузера нажимаем на кнопку Меню, выбираем Настройки, открывшуюся вкладку прокручиваем вниз и открываем Дополнительные, здесь находим пункт Очистить историю. 
В открывшемся окне ставим галочки для тех данных, которые нужно удалить, выбираем временной интервал и нажимаем Удалить данные. 
Mozilla Firefox
Аналогично, заходим в Меню, открываем вкладку Настройки, 
выбираем раздел Приватность и защита
и находим пункт Куки и данные сайтов. 
После нажатия также в открывшемся окне выбираем, что нужно удалять.
Opera
Точно также идем в Меню Простые настройки и прокручиваем его до пункта Очистить историю посещений
После нажатия на кнопку открывается окно, в котором отмечаем данные,подлежащие удалению и жмем Удалить данные.
Универсальный метод
Если не хочется искать в меню нужную команду, можно использовать метод, который работает во всех браузерах. Это набор горячих клавиш
который сразу открывает нужное окно.
CCleaner
Существует много, так называемых, программ-«чистильщиков», предназначенных для очистки компьютера от разного рода «мусора» и ускорения его работы.
CCleaner — наиболее известная из них. Она предназначена для очистки и оптимизации компьютеров с ОС Windows.
С ее помощью можно удалить нежелательные или нерабочие файлы, недействительные или неверные записи в реестре и многое другое. Одна из функций – удаление кэшированных данных, созданных как операционной системой, так и различными приложениями, в первую очередь, браузерами. 
CCleaner — программа очень полезная, и я считаю ее одной из обязательных для установки на компьютер.
Программа Glary Utilities
GU – еще одна универсальная программа для чистки и оптимизации ОС. Ее основные возможности, в основном, сходны с возможностями предыдущей программы. Хочу отметить очень удобную команду 1-Кликом, которая находится во второй вкладке окна программы. Эта кнопка запускает целую серию команд, в функции которых входит стандартная очистка ПК. Настраивать при этом ничего не нужно. 
Программа имеет дружеский пользовательский интерфейс, что позволяет применять ее пользователям любого уровня. Она также входит в разряд рекомендованных мной.
Кэширование сайта
Этот вопрос наиболее актуален для веб-мастеров.
Страницы сайта могут кэшироваться на нескольких уровнях.
Большинство современных сайтов написаны на языке PHP и имеют динамические страницы, которые создаются «на лету» по запросу пользователя. Вкратце напомню, как это происходит.
После запроса посетителя сайта (то есть клика по ссылке на страницу) сервер обращается к базе данных и папкам, содержащим необходимые медиафайлы, файлы стилей, скриптов, находит нужную информацию и, используя команды, написанные на языке PHP, формирует HTML-страницу, актуальную на данный момент и для данного посетителя. Именно эту страницу и получает браузер. Так как большинство страниц изменяется редко или не изменяется совсем, сервер отправляет их в кэш, чтобы при последующих запросах не создавать их заново. Это заметно сокращает время загрузки.
Очень много (большая часть) сайтов создано с использованием различных CMS (WordPress, Joomla!, Drupal …). Для таких ресурсов уже разработаны готовые решения для кэширования в виде плагинов или расширений.
Например, самый популярный движок WordPress может использовать такие плагины кэширования:
Каждый из них имеет свои возможности и настройки. Я использую на своих сайтах плагин Hyper Cache. Он бесплатный, легко настраивается и неплохо справляется со своими обязанностями.
Другой уровень кэширования сайта уже описывался выше. Это кэш браузера, то есть сохранение информации на уровне клиента.
Все эти методы позволяют заметно увеличить скорость загрузки сайта, снизить нагрузку на сервер и сэкономить трафик. Но иногда кэширование мешает актуальному отображению страниц сайта, так как загружаются данные, которые устарели. Поэтому приходится очищать кэш вручную.
Итак, подводя итоги, можно сказать простыми словами, что кэш – это место для временного хранения информации, которая может быть затребована в ближайшее время. Он служит для ускорения доступа к данным, но для оптимальной работы его нужно периодически очищать.
Как, почему и когда надо чистить кэш на Android
Кэш приложений может быть спорной темой на Android. Многие люди постоянно чистят кэш приложений, веря в то, что это позволит смартфону работать быстрей. Другие говорят, что это, в первую очередь, сводит на нет всю цель кэширования и просто увеличивает время запуска приложений и выполняемых действий. Истина, как обычно, где-то посередине. Некоторые приложения могут не использовать кэширование эффективно, из-за чего используются излишне большие объемы памяти. Иногда кэш может вызывать проблемы после выхода обновления и надо его сбрасывать. А еще некоторые приложения могут начинать работать медленнее, когда их кэш становится очень большим. Сказать однозначно, надо ли его удалять, нельзя. Но сейчас рассмотрим эту тему подробнее, чтобы вы понимали, когда это делать и как?
Надо ли чистить кэш телефона?
Что такое кэш на Андройд
Кэширование в компьютерном мире это то, что позволяет приложениям, таким, как браузеры, игры и потоковые сервисы хранить временные файлы, которые считаются актуальными для уменьшения времени загрузки и увеличения скорости работы. YouTube, Карты, музыкальные сервисы и множество других приложений сохраняют информацию в виде данных кэша. Это могут быть миниатюры видео, история поиска или временно сохраненные фрагменты видео. Кэширование может сэкономить много времени, так как качество и скорость Интернета не везде одинаковы. Но по иронии судьбы, когда приложения выгружают много данных на ваш телефон, это в конечном итоге замедляет его работу, особенно, когда остается мало места на встроенной памяти.
Наш Иван Кузнецов не так давно писал о том, что никогда не чистит кэш и считает это не нужным. Многие из вас, возможно, с ним не согласны. Да я и сам переодически провожу эту процедуру. Тем не менее, для полноты картины можете ознакомиться с его мнением.
Очистка кэша и данных на Android
Хотя мы часто упоминаем очистку кэша и данных в одном ключе, на Android это два совершенно разных действия. Например, музыкальные сервисы часто сохраняют в кэш информацию, относящуюся к исполнителям, которых вы слушали, но которые не входят в вашу библиотеку. Когда кэш приложения очищается, все упомянутые данные стираются.
Очистка лишней не будет? Не факт.
Более существенные данные включают в себя пользовательские настройки, базы данных и данные для входа в систему. Когда вы очистите кэш, это все удалится и будет не очень приятно. Если говорить грубо, можно сказать, что очистка кэша придает приложению тот вид, который был сразу после его установки, но у вас останутся данные, которые вы сами осознанно сохранили (загруженные песни, видео в оффлайн, карты и так далее). Если вы удалите и эти данные, то приложение будет вообще нулевым. Если чистите и кэш, и данные, проще тогда и приложение переустановить, чтобы вообще все красиво было.
Как очистить память смартфона. Пять простых шагов.
Когда надо чистить кэш
В чем-то я согласен с Иваном и с его мнением, которое я приводил в начале статьи. Нет смысла чистить кэш часто. После того, как вы его очистили, приложение все равно его создаст заново. Только в это время оно будет работать еще медленнее.
Тут важно найти баланс и понять, действительно ли ваш смартфон тормозит из-за кэша или, например, он просто старый и уже не тянет. Если не вникать в это, то можно посоветовать чистить кэш один раз в 3-6 месяцев, но быть готовым, что первые несколько дней скорость работы будет чуть ниже. В итоге, вы как бы освежите приложение, удалив лишний мусор и заново собрав только то, что нужно.
Google Play рассылает пустые обновления приложений. Что делать?
Как очистить кэш и данные на Android
Точную инструкцию для каждого смартфона дать не получится, так как все зависит от производителя и версии ОС, но общие правила будут следующими.
Шаг 1: Запустите «Настройки» и перейдите в раздел «Хранилище» (или найдите его поиском). Так вы сможете узнать, сколько памяти вашего смартфона занято и чем.
Шаг 2. В разделе «Хранилище» найдите «Приложения» (или «Другие приложения») и выберите его. В нем будут перечислены все приложения, а также то, сколько места каждое из них занимает. В некоторых версиях ОС можно найти сортировку приложений по алфавиту или размеру.
Шаг 3: Зайдите внутрь приложения и удалите кэш или данные. Только надо понимать, что это действие необратимо.
Три простых шага для очистки кэша.
В отношении специальных приложений для очистки я очень категоричен и не рекомендую ими пользоваться. Несмотря на их обещания ускорить систему чуть ли не в разы, в лучшем случае они просто сделают то же, что я только что описал. Так почему бы не сделать это самому без установки сомнительных приложений, которые еще и будут собирать ваши данные? Единственное приложение-оптимизатор, которому я доверяю, это Google Файлы, но работает оно именно с хранилищем и чистит в первую очередь мусор. Хотя, на него тоже нельзя слепо полагаться, но оно сделано Google, а к ней доверия куда больше, чем к каким-то левым разработчикам.
Если вы все еще хотите установить подобное приложение, просто помните о том, что они работают в фоновом режиме и используют системные ресурсы. Даже если они что-то ускорят, то сразу замедлят обратно.
Надо ли чистить кэш Android-приложений
Возможность очистки данных — это действительно полезная функция для решения многих проблем, уникальная для Android. Но как и любой полезной вещью злоупотреблять ей не стоит. Не надо чистить кэш и память каждый день. Делайте это периодически и только по мере надобности. Начал телефон работать медленно — пробегитесь по хранилищу. Если увидели, что какое-то из приложений занимает слишком много места, хотя не должно, очистите кэш.
Еще больше полезных советов и рассуждения в нашем Telegram-канале.
Еще раз: очистка кэша не испортит ваш смартфон, но приложение потеряет часть сохраненных данных и оптимизированных под вас настроек. Некоторое время придется накапливать их заново, зато так можно убрать действительно лишнее. Раньше можно было одной кнопкой очистить кэш всех приложений, теперь только по одному, но, наверное, это к лучшему.
Чего точно не стоит делать с кэшем, так это чистить его каждый день или каждую неделю. Так вы точно не сделаете лучше никому.
Кэши для «чайников»
Кэш глазами «чайника»:
Кэш – это комплексная система. Соответственно, под разными углами результат может лежать как в действительной, так и в мнимой области. Очень важно понимать разницу между тем, что мы ждем и тем, что есть на самом деле.
Давайте прокрутим полный оборот ситуаций.
Tl;dr: добавляя в архитектуру кэш важно явно осознавать, что кэш может быть средством дестабилизации системы под нагрузкой. Смотрите конец статьи.
Представим, что у нас есть доступ к базе данных, возвращающей курсы валют. Мы спрашиваем rates.example.com/?currency1=XXX¤cy2=XXX и в ответ получаем plain text значение курса. Каждые 1000 запросов к базе данных для нас, допустим, стоят 1 евроцент.
Итак, теперь мы хотим показывать на нашем сайте курс доллара к евро. Для этого нам нужно получить курс, поэтому на нашем сайте мы создаём API-обёртку для удобного использования:
И в шаблонах в нужном месте вставляем что-нибудь вроде:
Наивная имплементация делает самое простое, что можно придумать: на каждый запрос от пользователя спрашивает удалённую систему и использует ответ напрямую. Это означает, что теперь каждые 1000 просмотров пользователями нашей страницы стоят для нас на копейку больше. Казалось бы – гроши. Но вот проект растёт, у нас уже 1000 постоянных пользователей, которые каждый день заходят на сайт и просматривают по 20 страниц, а это уже 6 евро в месяц, что превращает сайт из бесплатного во вполне уже сопоставимый с платой за самые дешевые выделенные виртуальные серверы.
Вот тут на сцену выходит его величество Кэш
Зачем нам спрашивать курс для каждого пользователя на каждое обновление страницы, если для людей эта информация, в общем-то, не нужна так часто? Давайте просто ограничим частоту обновления до, например, раз в 5 секунд. Пользователи, переходя со страницы на страницу, всё равно будут видеть новое число, а мы платить будем в 1000 раз меньше.
Сказано – сделано! Добавляем несколько строчек:
Это самый главный аспект кэша: хранение последнего результата.
И вуаля! Сайт снова становится для нас почти бесплатным… До конца месяца, когда мы обнаруживаем от внешней системы счет на 4 евро. Конечно, не 6, но мы ожидали намного большей экономии!
К счастью, внешняя система позволяет посмотреть начисления, где мы видим всплески по 100 и более запросов каждые ровные 5 секунд в течение пиковой посещаемости.
Так мы познакомились со вторым важным аспектом кэша: дедупликацией запросов. Дело в том, что как только значение устарело, между проверкой наличия результата в кэше и сохранением нового значения, все пришедшие запросы фактически выполняют запрос к внешней системе одновременно.
В случае с memcache это можно реализовать, например, так:
И вот, наконец, потребление сравнялось с ожидаемым — 1 запрос в 5 секунд, расходы сократились до 2 евро в месяц.
Почему 2? Было 6 без кэширования для тысячи человек, мы же всё закэшировали, а сократилось всего в 3 раза? Да, стоило просчитать пораньше… 1 раз в 5 секунд = 12 в минуту = 72 в час = 576 за рабочий день = 17 тысяч в месяц, а ещё не все ходят по расписанию, есть странные личности заглядывающие поздней ночью… Вот и получается, в пике вместо сотни обращений одно, а в тихое время — по-прежнему запрос почти на каждое обращение проходит. Но всё равно, даже в худшем случае счёт должен быть 31×86400÷5 = 5.36 евро.
Так мы познакомились с еще одной гранью: кэш помогает, но не устраняет нагрузку.
Впрочем, в нашем случае люди приходят в проект и уходят и в какой-то момент начинают жаловаться на тормоза: страницы замирают на несколько секунд. А еще бывает под утро сайт не отвечает вообще… Просмотр консоли сайта показывает, что иногда днём запускаются дополнительные инстансы. В это же время скорость выполнения запросов падает до 5-15 секунд на запрос — из-за чего это и происходит.
Упражнение для читателя: посмотреть внимательно предыдущий код и найти причину.
Кстати, это грабли отнюдь не только кэша, это общий аспект распределённых блокировок: важно освобождать блокировки и иметь таймауты, во избежание дедлоков. Если бы мы добавляли «?» вообще без времени жизни, всё б замирало при первой же ошибке связи с внешней системой. К сожалению, memcache не предоставляет хороших способов для создания распределённых блокировок, использование полноценной БД с блокировками на уровне строк лучше, но это было просто лирическое отступление, необходимое просто потому, что на эти грабли наступили.
Итак, мы исправили проблему, вот только ничего не изменилось: всё равно изредка начинались тормоза. Что примечательно, они совпадали по времени с информационным бюллетенем от внешней системы о технических работах…
Ну-ка ну-ка… Давайте сделаем краткую передышку и пересчитаем, что мы насобирали уже сейчас, что должен уметь кэш:
Отсюда: кэш обязан уметь какое-то время хранить отрицательный результат. Наше наивное исходное предположение по сути подразумевает хранение отрицательного результата 0 секунд (но передачу этого самого отрицания всем, кто уже ждёт его). К сожалению, в случае с Memcache реализация нулевого времени ожидания весьма проблематична (оставлю как домашнее задание въедливому читателю; cовет: используйте механизм CAS; и да, в AppEngine можно использовать и Memcache и Memcached).
Мы же просто добавим сохранение отрицательного значения с 1 секундой жизни:
Казалось бы, ну теперь-то уже всё, и можно успокоиться? Как бы не так. Пока мы росли, наш любимый внешний сервис тоже рос, и в какой-то момент начал иногда тормозить и отвечать аж по секунде… И что примечательно – вместе с ним начал тормозить и наш сайт! Причем снова для всех! Но почему? Мы же всё кэшируем, в случае ошибок запоминаем ошибку и тем самым отпускаем всех ожидающих сразу, разве нет?
Что ж, мы можем вместо ожидания, добавить ветку else<> у условия вокруг memcache->add … Правда, стоит, наверное, вернуть последнее известное значение, да? Ведь мы кэшируем ровно затем, что мы согласны получить устаревшие сведения, если нет свежих; итак, еще одно требование к кэшу: пусть подтормаживает не более одного запроса.
Итак, мы снова победили: даже если тормозит внешний сервис, подтормаживает не более одной страницы… То есть как бы среднее время ответа сократилось, но пользователи всё равно немного недовольны.
Примечание: обычный PHP по умолчанию пишет сессии в файлы, блокируя параллельные запросы. Чтобы избежать этого поведения, можно передать в session_start параметр read_and_close либо принудительно закрывать через session_close сессию после совершения всех необходимых изменений, иначе тормозить будет не одна страница, а один пользователь: так как скрипт, обновляющий значение, будет блокировать открытие сессии другим запросом от того же пользователя. При исполнении на AppEngine по умолчанию включено хранение сессий в memcache, то есть без блокировок, поэтому будет проблема не так заметна.
Так вот, пользователи всё равно недовольны (ох уж эти пользователи!). Те, кто проводят времени больше всех на сайте, всё равно замечают эти короткие зависания. И их нисколько не радует осознание факта того, что так случается редко, и им просто не везёт. Придётся для данного случая сделать требование еще более жестким: никакие запросы не должны ждать ответа.
Что же мы можем сделать в такой постановке вопроса? Мы можем:
Итак, наш поставщик данных растёт, но не все его клиенты читают хабр, а потому они не используют правильного кэширования (если используют его вообще) и в какой-то момент начинают выдавать огромное количество запросов, из-за чего сервису становится плохо, и эпизодически он начинает отвечать не просто медленно, а очень медленно. До десятков секунд и более. Пользователи, конечно, быстро обнаружили, что можно нажать F5 или иначе перезагрузить страницу, и она появляется моментально – вот только страница снова начала упираться в бесплатные пределы, так как постоянно начали висеть процессы, просто ожидающие внешний ответ, но потребляющие наши ресурсы.
В числе прочих побочных эффектов участились случаи показа устаревшего курса. [Мда… в общем, представьте, что мы сейчас говорим не про наш случай, а про что-нибудь более сложное, где устаревание видно невооруженным глазом 🙂 на самом деле, даже в простом случае обязательно найдётся пользователь, который заметит такие совершенно неочевидные косяки].
Смотрите, что получается:
Итак, давайте подведём промежуточный итог. В бытовом понимании кэш:
Рассмотрим простейший случай:
3600. Что означает, что если отравление наступило на 5000 запросах в минуту, до тех пор, пока нагрузка не упадёт с 5000 до 3000 система нестабильна. То есть любой (даже пиковый!) всплеск трафика потенциально может вызвать длительную нестабильность системы.
Особенно прекрасно это смотрится, когда после новостной рассылки с какими-либо новыми функциями практически одновременно приходит волна пользователей. Эдакий маркетологический хабраэффект на регулярной основе.
Всё это не означает, что кэш нельзя или вредно использовать! О том, как правильно применять кэш для улучшения стабильности системы и как восстанавливаться от вышеупомянутой петли гистерезиса, мы поговорим в следующей статье, не переключайтесь.