为什么我们需要实现缓存?

要理解缓存是什么以及为什么需要缓存，请考虑下面的场景。

我们正在用Python构建一个应用程序，它将向最终用户显示产品列表。这个应用程序每天会被超过100个用户多次访问。应用程序将托管在应用程序服务器上，并且可以在internet上访问它。产品将存储在一个数据库中，该数据库将安装在数据库服务器上。因此，应用服务器将查询数据库以获取相关记录。

下图演示了我们的目标应用程序是如何设置的：

获取数据的请求必须通过线路，响应必须通过线路返回。

这在本质上是缓慢的。因此，引入了缓存。

我们可以缓存结果，以减少计算时间和节省计算机资源。

缓存是一个临时存储位置。它以惰性加载方式工作。

最初，缓存是空的。当应用程序服务器从数据库服务器获取数据时，它将用所需的数据集填充缓存。从那时起，后续的请求将从缓存获取数据，而不是一路到应用程序服务器。

我们还需要及时使缓存失效，以确保向最终用户显示最新的信息。

这就引出了本文的下一节:缓存规则。

缓存规则

在我看来，缓存有三条规则。

在启用缓存之前，我们需要执行分析应用程序的关键步骤。

因此，在应用程序中引入缓存之前的第一步是对应用程序进行概要分析。只有这样，我们才能了解每个函数需要多长时间以及它被调用了多少次。分析过程完成后，我们需要确定需要缓存的内容。

我们需要一种机制来连接函数的输入和输出，并将它们存储在内存中。这就引出了缓存的第一条规则。

(1) 缓存的第一条规则

第一个规则是确保目标函数需要很长时间才能返回输出，它经常被执行，并且函数的输出不会经常改变。

我们不希望为那些不需要很长时间就能完成的函数、在应用程序中很少被调用的函数或那些返回结果却在源代码中频繁更改的函数引入缓存。