[发明专利]一种基于N-gram算法的多通道按需预取设计方法

说明书

本发明旨在解决面向网络计算的新一代操作系统中软件的按需动态部署模式中的预取算法必须拥有极高的命中率的关键性问题，涉及计算机科学领域自然语言处理中的N‑gram算法，尤其涉及一种基于N‑gram算法的多通道按需预取机制。其主要技术方案为首先统计操作序列并写入到频度统计表中；然后主要根据N‑gram算法、一个软件被划分成的所有软件模块和预取轮次来决定预取机制；最后在实际预取过程中，设定应遵循的原则，并按照预取序列依次预取。

技术领域

本发明旨在解决软件的按需动态部署模式中的预取算法必须拥有极高的命中率的关键性问题，涉及计算机科学领域自然语言处理中的N-gram算法，尤其涉及一种基于N-gram算法的多通道按需预取机制。

背景技术

现代处理器和存储器速度发展的不协调导致处理器要耗费很多时间等待存储器数据的返回，这就是存储墙问题。为了解决这些问题，已提出多种技术方案，其中最主要的有缓存和预取技术两种。众所周知，缓存是访问重用数据的技术,它能有效节省访问使用率高的资源所耗费的时间。随着应用规模的不断扩大和上述技术的不断成熟，容量失效和强制性失效在总的缓存失效次数当中所占的比例越来越大，成为影响缓存性能的主要因素。而随着缓存技术的广泛应用，预取技术也在存储控制器、操作系统、数据库、网络、文件系统等应用中起到了重要作用。同时，预取不像缓存那样应用广泛。最具挑战性的预取方面之一是预测——预测出将会在不久使用的目标。预测的低准确率不但不能改善用户延迟还可能使延迟更严重。

面向网络计算的新一代操作系统需要为用户提供高效、安全服务。而在用户需求易变、高动态的网络环境中，现有计算机难以提前预见和考虑到各种业务需求。为了应对人们生活中随时变化的服务请求，需要提供一种能够实时应对用户需求变化的服务。尤其是对于软件的使用，新一代操作系统中要求达到一种“召之即来挥之即去”的效果。这就需要极大提升预取算法的命中率，为用户提供高效、干净、快捷的使用体验。一些实验表明软件不需要执行整个软件镜像只需下载一些模块就能执行。其余的可根据需要流式传输到执行环境。综合考虑软件下载和安装时间，流式启动方式将优于传统的软件启动方法。为了有效改善软件模块化加载中的性能问题，本发明提出了一种基于N-gram算法的多通道预取机制，力求极大地提高用户体验性能。

发明内容

预取技术是根据局部性扩展的原理——即时间向空间拓展，在服务器处理客户端请求时，利用预取算法估测用户下一步的操作，并利用网络空闲时间段将估测的内容预先加载到缓存中。因此它弥补了缓存技术的不足，能有效降低网络的访问延迟，提高响应速度。自然语言处理中的N-Gram模型基于某个词的出现与且只与前面N个词相关的假设，整句的概率就是每个词的概率相乘的结果。应用到软件预取中，我们可以假设某个软件模块的出现只与前面N 个软件模块相关，而与其它任何模块都不相关。

本发明旨在提出一种基于N-gram算法的多通道预取机制，其主要内容包括：

1.创建频度统计表：统计操作序列并写入到频度统计表中；

2.决定预取机制：主要根据一个软件被划分成的所有软件模块数量和预取轮次来决定；

3.设定预取原则：按照预取序列依次预取。在实际预取过程中，设定应遵循的原则。

具体实施方式

本发明基于自然语言处理中的N-gram模型，并将该模型运用到虚拟化软件模块的预取中。首先给出本发明中所涉及的前提定义的解释。

定义1.软件模块.整个软件按最小可操作的功能细分为若干块，其中的任意一块被称为一个“软件模块”。

定义2.软件预取.软件在执行的过程中，客户端根据各种已知条件预估使用者的下一步操作而事先将一个或多个软件模块从远端服务器加载下来的过程被称为软件预取。