Cache MemoryMost PCs are held back

Cache Memory

Most PCs are held back not by the speed of their main processor, but by the time it takes to move data in and out of memory. One of the most important techniques for getting around this bottleneck is the memory cache.

The idea is to use a small number of very fast memory chips as a buffer or cache between main memory and the processor. Whenever the processor needs to read data it looks in this cache area first. If it finds the data in the cache then this counts as a 'cache hit' and the processor need not go through the more laborious process of reading data from the main memory. Only if the data is not in the cache does it need to access main memory, but in the process it copies whatever it finds into the cache so that it is there ready for the next time it is needed. The whole process is controlled by a group of logic circuits called the cache controller.

One of the cache controller's main jobs is to look after 'cache coherency' which means ensuring that any changes written to main memory are reflected within the cache and vice versa. There are several techniques for achieving this, the most obvious being for the processor to write directly to both the cache and main memory at the same time. This is known as a “write-through” cache and is the safest solution, but also the slowest.

The main alternative is the “write-back” cache which allows the processor to write changes only to the cache and not to main memory. Cache entries that have changed are flagged as 'dirty', telling the cache controller to write their contents back to main memory before using the space to cache new data. A write-back cache speeds up the write process, but does require a more intelligent cache controller.

Most cache controllers move a 'line' of data rather than just a single item each time they need to transfer data between main memory and the cache. This tends to improve the chance of a cache hit as most programs spend their time stepping through instructions stored sequentially in memory, rather than jumping about from one area to another. The amount of data transferred each time is known as the 'line size'.

How a Disk Cache Works

Disk caching works in essentially the same way whether you have a cache on your disk controller or you are using a software-based solution. The CPU requests specific data from the cache. In some cases, the information will already be there and the request can be met without accessing the hard disk.

If the requested information isn't in the cache, the data is read from the disk along with a large chunk of adjacent information. The cache then makes room for the new data by replacing old. Depending on the algorithm that is being applied, this may be the information that has been in the cache the longest, or the information that is the least recently used. The CPU's request can then be met, and the cache already has the adjacent data loaded in anticipation of that information being requested next.

Результаты (русский) 1:

Кэш-памятьБольшинство компьютеров проводятся еще не скорость их основной процессор, а время, необходимое для перемещения данных в память и из нее. Одним из наиболее важных методов для получения вокруг этого узкого места является кэш-памяти.Идея заключается в том, чтобы использовать небольшое количество чипов памяти очень быстро как буфер или кэш между основной памятью и процессором. Всякий раз, когда процессор должен считывать данные он выглядит в этой области кэша сначала. Если он находит данные в кэше, то это засчитывается как кэш и процессор не нужно идти через более трудоемкий процесс считывания данных из основной памяти. Только если данные не в кэше ему нужно получить доступ к основной памяти, но в процессе он копирует то, что он находит в кэш так, чтобы он готов там следующий раз, когда это необходимо. Весь процесс контролируется группой логических схем, называется кэш-памяти контроллера.Один из основных работ кэша контроллера является ухаживать за «кэш-памяти», что означает, что любые изменения записываются в основную память отражаются в кэше и наоборот. Существует несколько методов для достижения этого, наиболее очевидным является процессор для записи непосредственно в кэш и памяти одновременно. Это называется «write-through» кэш и является самым безопасным решением, но самый медленный.Основной альтернативой является «обратной записи» кэш, который позволяет процессору записывать изменения только в кэш, а не к основной памяти. Записи кэша, которые были изменены, помеченных как «грязные», сообщая контроллер кэша для записи их содержимого обратно в основную память перед использованием пространства для кэширования новых данных. Кэш обратной записи ускоряет процесс записи, но требует более интеллектуальный контроллер кэша.Большинство контроллеров кэша переместить «линия» данных, а не только один элемент каждый раз, когда им нужно для передачи данных между основной памятью и кэш. Это, как правило, улучшить шансы на попадание в кэш, поскольку большинство программ тратят свое время, пошаговое выполнение инструкции последовательно хранятся в памяти, а не прыгать о из одной области в другую. Объем данных, передаваемых каждый раз, называется «размер линии».Как работает кэш дискаКэширование диска работает в основном так же, как ли у вас кэш на вашем контроллере диска или вы используете решение на основе программного обеспечения. ЦП запрашивает данные из кэша. В некоторых случаях там уже будет информация и запрос может быть выполнено без доступа к жесткого диска.Если запрошенная информация отсутствует в кэше, данные считываются с диска вместе с большой кусок прилегающих информации. Кэш затем делает комнату для новых данных путем замены старых. В зависимости от алгоритма, который применяется это может быть информация, которая была в кэше самый длинный или информацию, которая является наименее недавно использованных. Запрос процессора затем могут быть удовлетворены, и кэш уже соседние данные загружены в ожидании этой информации запрашивается следующее.

Результаты (русский) 2:

Кэш - память

Большинство ПК сдерживаются не скорость их основного процессора, но к тому времени, которое требуется для перемещения данных в и из памяти. Одним из наиболее важных методов для обхода этой проблемы является кэш - память.

Идея заключается в том , чтобы использовать небольшое количество очень быстрых чипов памяти в качестве буфера или кэша между основной памятью и процессором. Всякий раз , когда процессор должен прочитать данные , он выглядит в этой области кэша в первую очередь. Если он находит данные в кэше , то это засчитывается как "хит кэш" и процессору не нужно проходить через более трудоемкий процесс считывания данных из основной памяти. Только если данные не в кэше это нужно , чтобы получить доступ к основной памяти, но в процессе того, что копирует все , что он находит в кэш , так что он там готов в следующий раз это необходимо. Весь процесс контролируется группой логических схем называется кэш - контроллер.

Одна из главных задач кэш - контроллер является смотреть после того, как "кэш - когерентность" , что означает обеспечение того , чтобы любые изменения , записанные в основной памяти отражаются в кэше , и наоборот. Есть несколько методов для достижения этой цели, наиболее очевидные из которых для процессора писать непосредственно как кэш - памяти и оперативной памяти одновременно. Это известно как "сквозной записи" кэш и является самым безопасным решением, но и самый медленный.

Основной альтернативой является кэш "обратной записи" , которая позволяет процессору записать изменения только в кэш , а не в основной памяти. Записей кэша , которые были изменены помечены как «грязные», говоря кэш - контроллер , чтобы написать их содержимое обратно в основную память , прежде чем использовать пространство для кэширования новых данных. Кэш обратной записи ускоряет процесс записи, но требует более интеллектуальный кэш - контроллер.

Большинство кэш - контроллеров перемещения "линию" данных , а не только одного элемента каждый раз , когда им необходимо для передачи данных между основной памятью и кэш. Это , как правило , чтобы улучшить вероятность попадания кэша поскольку большинство программ проводят свое время пошагового команды , хранящиеся в памяти последовательно, а не прыгая из одной области в другую. Объем передаваемых данных каждый раз , когда известен как "размер строки.

Как Disk Cache Works

кэширования диска работает по существу таким же образом , есть ли у вас кэш на диске контроллера или вы используете программное решение. Процессор запрашивает определенные данные из кэша. В некоторых случаях информация уже будет там , и запрос может быть выполнено без доступа к жесткому диску.

Если запрашиваемая информация не находится в кэше, данные считываются с диска вместе с большим куском смежной информации. Кэш затем делает место для новых данных путем замены старых. В зависимости от алгоритма , который применяется, это может быть информация , которая была в кэше дольше, или информации , которая является наименее используемый. Запрос процессора может быть выполнено, а кэш уже соседние данные , загруженные в ожидании этой информации запрашивается следующая.