磁盘缓存专题之一缓存命中和缓存未命中缓存与缓冲间的差异-巨人网络通讯

磁盘缓存专题之一缓存命中和缓存未命中缓存与缓冲间的差异

不论什么时候，只要系统带有多个设备，而这些设备的性能又各不相同，就存在从慢速设备到快速设备不断更换工作地点以改善系统性能的可能性，这就是缓存的基本思想。即数据从一个地点拷贝到另一个地点，使之检索起来更快。虽然这是一个简单概念，但却包含着许多奇思妙想。

简单地说，为满足某种预期的未来需要所做的准备即缓存。缓存是一种人类的本性，为了保证充分的物品供应量，需要预先进行计划，然后选择一个能够提供最快服务的地方，存放它们，这就是所谓的可靠物资管理。它也是计算机系统的核心概念，即将需要的信息放在可以最快访问的地方，其描述如图。

缓存的概念可以用于几种设备，这些设备包括：
• 比正常内存更快的高速内存缓存。
• 比磁盘驱动器更快的、由内存芯片组成的磁盘缓存。
• 比通过Internet访问更快的、由磁盘实现的Internet缓存。

本专题主要涉及的是磁盘缓存。通常，用于缓存的内存是易失内存，假如电源切断，存放在缓存中的数据内容将会丢失。从这个意义上说，缓存内存是一个临时存储，但磁盘设备和子系统所使用的缓存是非易失存储。易失（内存）和非易失存储关系如图所示

本篇主题如下：

缓存命中和缓存未命中

缓存与缓冲间的差异

缓存命中和缓存未命中

当I / O操作开始从磁盘缓存而不是从非易失存储中检索数据时，（如磁盘设备或子系统）缓存命中发生。除了提供来自内存的快速响应之外，缓存命中还缩短了I / O路径的距离。如图所示。

另一种情况是，虽然搜索了缓存，但没有发现数据，因此数据必须从非易失存储读取，这就是缓存未命中。由于搜索缓存时需要花费时间，所以缓存未命中增加了I / O操作的时间。缓存未命中工作过程如图所示：

如果缓存实现不理想，将产生很高的未命中率，由于每次缓存未命中都需要花费额外的时间，所以导致系统性能的下降。用于描述缓存相对精确度的术语叫缓存命中率，缓存命中率是缓存命中数除以I / O请求总数所得的结果。对于开放系统服务器，如UNIX、Win NT及NETWare系统等，通常的命中率率不超过50 %。顺便指出，由于大型计算机系统使用的数据访问方法不同，它能到达更高的命中率（90 %）。

缓存命中率的计算如下：

缓存与缓冲间的差异

“缓存”和“内存”有时可以互换使用。然而，磁带驱动器中的内存通常并不是缓存，而是缓冲。虽然它们的物理组成是一样的，但缓冲只起临时存储数据的作用，由此数据从一个位置或设备传到另一个位置或设备。一般地，缓冲是在生命期较短的进程控制下工作，一旦数据传输完毕，这些进程将立即释放内存地址。一种常见类型的缓冲是F I F O缓冲，即一种先进先出结构，其结构如图所示：

另一方面，缓存内存由一个或更多的系统算法所控制，这些算法在一个长时间里维护和管理着内存资源，缓存的数据可以长时间地保存在缓存中。

在协调性能有差异的控制器和设备工作方面，缓冲常常能够发挥作用，这种方式的缓冲可以看作是某种转换器。主机I / O控制器上的芯片可以快速地通过I / O路径传输数据，它们的性能可以达到纳秒级，而对于磁盘和磁带驱动器这样一类的机电存储设备，其数据的传输速度只能在微秒范围内。因此，设备制造商把缓冲内存放入设备中，以减少访问延迟，以适合主机控制器的性能。这样，主机控制器可以同时地在多个设备上实施重叠操作，图显示了这种重叠过程。