System Design 缓存 - 学习笔记

有哪些缓存级别

客户端缓存

缓存可以位于客户端（操作系统或者浏览器）。

CDN 缓存

CDN 也被视为一种缓存。

CDN边缘节点缓存策略因服务商不同而不同，但一般都会遵循 HTTP 标准协议，通过 HTTP 响应头中的 Cache-control: max-age 的字段来设置CDN边缘节点数据缓存时间。

当客户端向CDN节点请求数据时，CDN节点会判断缓存数据是否过期，若缓存数据并没有过期，则直接将缓存数据返回给客户端；否则，CDN节点就会向源站发出回源请求，从源站拉取最新数据，更新本地缓存，并将最新数据返回给客户端。

CDN服务商一般会提供基于文件后缀、目录多个维度来指定CDN缓存时间，为用户提供更精细化的缓存管理。

CDN缓存时间会对“回源率”产生直接的影响。若CDN缓存时间较短，CDN边缘节点上的数据会经常失效，导致频繁回源，增加了源站的负载，同时也增大的访问延时；若CDN缓存时间太长，会带来数据更新时间慢的问题。开发者需要增对特定的业务，来做特定的数据缓存时间管理。

Web 服务器缓存

反向代理和缓存可以直接提供静态和动态内容。Web 服务器同样也可以缓存请求，返回相应结果而不必连接应用服务器。

数据库缓存

数据库的默认配置中通常包含缓存级别，针对一般用例进行了优化。调整配置，在不同情况下使用不同的模式可以进一步提高性能。

当有很多相同的查询被执行了多次的时候，这些查询结果会被放到一个缓存中。
这样，后续的相同的查询就不用操作表而直接访问缓存结果了。

// 查询缓存不开启
$r = mysql_query("SELECT * FROM student WHERE signup_date = CURDATE()");

// 开启查询缓存
$today = date("Y-m-d");
$r = mysql_query("SELECT * FROM student WHERE signup_date = '$today'");

像 CURDATE(), NOW() 和 RAND() 或是其它的诸如此类的SQL函数都不会开启查询缓存。
因为这些函数的返回值是不定的。

应用缓存

基于内存的缓存比如 Memcached 和 Redis 是应用程序和数据存储之间的一种键值存储。由于数据保存在 RAM 中，它比存储在磁盘上的典型数据库要快多了。

Redis 有下列附加功能：

• 持久性选项
• 内置数据结构比如有序集合和列表

何时更新缓存

由于你只能在缓存中存储有限的数据，所以你需要选择一个适用于你用例的缓存更新策略。

缓存模式

缓存模式

应用从存储器读写。缓存不和存储器直接交互，应用执行以下操作：

• 在缓存中查找记录，如果所需数据不在缓存中
• 从数据库中加载所需内容
• 将查找到的结果存储到缓存中
• 返回所需内容

Memcached 通常用这种方式使用。
添加到缓存中的数据读取速度很快。缓存模式也称为延迟加载。只缓存所请求的数据，这避免了没有被请求的数据占满了缓存空间。

缺点：

• 请求的数据如果不在缓存中就需要经过三个步骤来获取数据，这会导致明显的延迟。
• 如果数据库中的数据更新了会导致缓存中的数据过时。这个问题需要通过设置TTL强制更新缓存或者直写模式来缓解这种情况。

直写模式

直写模式

应用使用缓存作为主要的数据存储，将数据读写到缓存中，而缓存负责从数据库中读写数据：

• 应用向缓存中添加/更新数据
• 缓存同步地写入数据存储
• 返回所需内容

由于存写操作所以直写模式整体是一种很慢的操作，但是读取刚写入的数据很快。相比读取数据，用户通常比较能接受更新数据时速度较慢。缓存中的数据不会过时。

缺点：

• 由于故障或者缩放而创建的新的节点，新的节点不会缓存，直到数据库更新为止。

回写模式

回写模式

在回写模式中，应用执行以下操作：

• 在缓存中增加或者更新条目
• 异步写入数据，提高写入性能。

缺点：

• 缓存可能在其内容成功存储之前丢失数据。

缓存的缺点：

• 需要保持缓存和真实数据源之间的一致性。
• 需要改变应用程序比如增加 Redis 或者 memcached。
• 无效缓存是个难题，什么时候更新缓存是与之相关的复杂问题。