基于动态流水线网络服务器的分布式Cache系统及其工作方法

本发明有关于一种基于动态流水线网络服务器的分布式Cache系统及其工作方法，该系统中，动态流水线网络服务器将HTTP处理逻辑分为第一流水级、第二流水级、第三流水级，并分别包装在不同的虚拟机中运行，每个流水级有对应的Cache，下一流水级的Cache为上一流水级的后备Cache，用于缓存上一流水级被替换出的文件；本流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在本流水级的Cache中，则返回HTTP响应给客户端，否则进行本流水级的HTTP处理逻辑，并在处理结束后通过调度策略将该HTTP请求发送到下一级流水级处理。本发明解决了同级流水级Cache一致性的问题，减少了流水级间数据传递传输造成的延时。

1.一种基于动态流水线网络服务器的分布式Cache系统，动态流水线网络服务器包括网络服务器控制器、虚拟机、虚拟云计算平台，其特征在于：动态流水线网络服务器将HTTP处理逻辑分为第一流水级、第二流水级、第三流水级，并分别包装在不同的虚拟机中运行，每个流水级有对应的Cache，下一流水级的Cache为上一流水级的后备Cache，用于缓存上一流水级被替换出的文件；本流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在本流水级的Cache中，则返回HTTP响应给客户端，否则进行本流水级的HTTP处理逻辑，并在处理结束后通过调度策略将该HTTP请求发送到下一级流水级处理。
2.根据权利要求1所述的分布式Cache系统，其特征在于，当本流水级为第一流水级时，第一流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在第一流水级的Cache中，则返回HTTP响应给客户端，若不在，则进行本流水级的HTTP处理逻辑，并在处理结束后将该HTTP请求发送到第二流水级处理。
3.根据权利要求1所述的分布式Cache系统，其特征在于，当本流水级为第二流水级时，第二流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在第二流水级的Cache中，则通过第一流水级返回HTTP响应给客户端；若不在，则进行本流水级的HTTP处理逻辑，并在处理结束后将该HTTP请求发送到第三流水级处理。
4.根据权利要求1所述的分布式Cache系统，其特征在于，当本流水级为第三流水级时，第三流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在第三流水级的Cache中，则通过第一流水级返回HTTP响应给客户端；若不在，则从磁盘中读取该HTTP请求的文件到，并通过第一流水级返回HTTP响应给客户端。
5.根据权利要求1、2、3或4所述的分布式Cache系统，其特征在于，该网络服务器控制器还用于对同一流水级的虚拟机中的Cache信息维护一致。
6.根据权利要求1、2、3或4所述的分布式Cache系统，其特征在于，该第三流水级统计该HTTP请求的文件的访问频率得到热点文件，并将该热点文件的文件路径和文件内容发送给该网络服务器控制器，由该网络服务器控制器将该热点文件的文件路径和文件内容广播给该第一流水级。
7.根据权利要求6所述的分布式Cache系统，其特征在于，该第一流水级还用于维护热点文件的相关信息，且第一流水级的Cache采用的替换策略为LRU；当第一流水级的Cache从该网络服务器控制接收到信息后，若该第一流水级的Cache已饱和，则通过LRU替换策略将该热点文件替换出的文件放入第二流水级的Cache中。
8.根据权利要求1、2、3或4所述的分布式Cache系统，其特征在于，该第三流水级中还设置一本地文件Cache系统，该本地文件Cache系统由元数据Cache和文件内容Cache组成，该元数据Cache以Hash表的形式组织，用于存储文件名、文件大小、修改时间、引用计数和块计数，该文件内容Cache以Chunk的方式组织，用于存储文件内容。
9.根据权利要求1、2、3或4所述的分布式Cache系统，其特征在于，该第三流水级中还设置一时钟、一阈值；该第三流水级当该时钟每经一固定的时间间隔，将所有文件的访问计数减一，并当文件的访问频率超过该阈值时将对应文件的文件路径和文件内容发送至该网络服务器控制器，由该网络服务器控制器周期性地将该对应文件广播给该第一流水级，该第一流水级接收该对应文件并更新本地的对应文件访问信息列表。
10.一种基于动态流水线网络服务器的分布式Cache系统的工作方法，其特征在于，包括：步骤一，由动态流水线网络服务器将HTTP处理逻辑分为第一流水级、第二流水级、第三流水级，并分别包装在不同的虚拟机中运行，每个流水级有对应的Cache，下一流水级的Cache为上一流水级的后备Cache，用于缓存上一流水级被替换出的文件；步骤二，本流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在本流水级的Cache中，则返回HTTP响应给客户端，否则进行本流水级的HTTP处理逻辑，并在处理结束后通过调度策略将该HTTP请求发送到下一级流水级处理。
11.根据权利要求10所述的分布式Cache系统的工作方法，其特征在于，所述步骤二中，还包括：当本流水级为第一流水级时，该第一流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在该第一流水级的Cache中，则直接返回HTTP响应给客户端，若不在，则进行本流水级的HTTP处理逻辑，并在处理结束后将该HTTP请求发送到该第二流水级处理。
12.根据权利要求10所述的分布式Cache系统的工作方法，其特征在于，所述步骤二中，还包括：当本流水级为第二流水级时，该第二流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在该第二流水级的Cache中，则通过第一流水级返回HTTP响应给客户端；若不在，则进行本流水级的HTTP处理逻辑，并在处理结束后将该HTTP请求发送到该第三流水级处理。
13.根据权利要求10所述的分布式Cache系统的工作方法，其特征在于，所述步骤二中，还包括：当本流水级为第三流水级时，该第三流水级接收客户端发送的HTTP请求，并对该HTTP请求进行Cache查询，若该HTTP请求的文件在该第三流水级的Cache中，则通过该第一流水级返回HTTP响应给客户端；若不在，则从磁盘中读取该HTTP请求的文件到该第三流水级的Cache中，并通过该第一流水级返回HTTP响应给客户端。
14.根据权利要求10、11、12或13所述的分布式Cache系统的工作方法，其特征在于，所述步骤二中，还包括：通过该网络服务器控制器对同一流水级的虚拟机中的Cache信息维护一致。
15.根据权利要求10、11、12或13所述的分布式Cache系统的工作方法，其特征在于，所述步骤二中，还包括：该第三流水级统计该HTTP请求的文件的访问频率得到热点文件，并将该热点文件的文件路径和文件内容发送给该网络服务器控制器，由该网络服务器控制器将该热点文件的文件路径和文件内容广播给该第一流水级。
16.根据权利要求15所述的分布式Cache系统的工作方法，其特征在于，所述步骤二中，还包括：该第一流水级还用于维护热点文件的相关信息，且该第一流水级的Cache采用的替换策略为LRU；当该第一流水级的Cache从该网络服务器控制接收到信息后，若该第一流水级的Cache已饱和，则通过LRU替换策略将该热点文件替换出的文件放入该第二流水级的Cache中。
17.根据权利要求10、11、12或13所述的分布式Cache系统的工作方法，其特征在于，所述步骤二中，还包括：在该第三流水级中还设置一本地文件Cache系统，该本地文件Cache系统由元数据Cache和文件内容Cache组成，该元数据Cache以Hash表的形式组织，用于存储文件名、文件大小、修改时间、引用计数和块计数，该文件内容Cache以Chunk的方式组织，用于存储文件内容。
18.根据权利要求10、11、12或13所述的分布式Cache系统的工作方法，其特征在于，所述步骤二中，还包括：在该第三流水级中设置一时钟、一阈值；该第三流水级当该时钟每经一固定的时间间隔，将所有文件的访问计数减一，并当文件的访问频率超过该阈值时将对应文件的文件路径和文件内容发送至该网络服务器控制器，由该网络服务器控制器周期性地将该对应文件广播给该第一流水级，该第一流水级接收该对应文件并更新本地的对应文件访问信息列表。