[发明专利]无服务器背景下函数实例数量自适应方法及应用

说明书

本发明公开了一种无服务器背景下函数实例数量自适应方法及应用，所述方法包括：获取函数实例的历史请求负载数据；基于历史请求负载数据训练预测模型；将训练后的预测模型输入远程过程调用服务器，以使远程过程调用服务器输出预测任务请求数量；基于预测任务请求数量动态调整函数实例数量。该方法以函数实例的历史请求负载数据作为预测模型的训练数据，并将训练后的预测模型输入远程过程调用服务器，以得到预测任务请求数量，最后根据预测任务请求数量动态调整函数实例数量，实现了可提前调整宿主机集群中宿主机的函数实例数量，减少任务请求在应用系统中的排队时间；同时，在任务请求负载不高的时候释放闲置的函数实例，回收其所持有的资源。

技术领域

本发明是关于云计算技术领域，特别是关于一种无服务器背景下函数实例数量自适应方法及应用。

背景技术

无服务器计算是一种新型的云计算商业模式，易用性和低费用是无服务器计算正在变得越来越流行的主要原因。与传统的基础架构即服务不同，在无服务器计算平台上，用户只需要编写并提交自己的函数，不需要管理与函数运行相关的底层运行环境，平台依据函数运行时所消耗的资源进行收费，在函数实例没有请求到来时平台不进行收费。

因为闲置的函数实例平台不进行收费，平台倾向于将这些闲置的函数实例进行释放，回收资源。但是过于激进地释放函数实例也会带来问题。当下次函数的请求到来时，请求会因为没有实例可以处理它而排队，而函数实例生成是需要一定的时间的，这称为冷启时间。大多数无服务器计算平台上的函数执行时间非常短，在1秒不到甚至几十毫秒，而冷启动时间却能达到2秒以上，这对于时延敏感型函数来说是不可接受的。

因此，大多数无服务器计算平台采取将闲置实例保活一段固定时间的方式，牺牲资源上的开销而避免下一次请求到达时因无函数实例可处理而导致时延增加的情况。如OpenWhisk就采取了将函数实例保活固定10分钟的时间，下一次请求到来时，10分钟的计时会被重置。

同时，为了避免过少的函数实例无法处理过多的并发请求的情况，研究者提出了一种依据队列内排队请求数量和函数实例处理速度来计算需要生成的函数实例数量的方法，但此方法仍未解决闲置的函数实例应该如何释放来回收资源的问题。

发明内容

本发明的目的在于提供一种无服务器背景下函数实例数量自适应方法及应用，其用以解决现有技术中存在的任务请求因缺少相应的函数实例处理而导致时延增加、以及如何释放闲置的函数实例来回收资源的技术问题。

为实现上述目的，本发明的实施例提供了一种无服务器背景下函数实例数量自适应方法，所述方法包括：

获取函数实例的历史请求负载数据，所述历史请求负载数据包括每个相等时间间隔内所述函数实例接收的任务请求数量；

基于所述历史请求负载数据训练预测模型；

将训练后的所述预测模型输入远程过程调用服务器，以使所述远程过程调用服务器输出预测任务请求数量；

基于所述预测任务请求数量动态调整所述函数实例数量。

在本发明的一个或多个实施方式中，将训练后的所述预测模型输入远程过程调用服务器，以使所述远程过程调用服务器输出预测任务请求数量，具体包括：设置滑动窗口，并将当前时间间隔内所述函数实例接收的任务请求数量加入所述滑动窗口；将所述滑动窗口以及函数实例的类别输入所述远程过程调用服务器，以使所述远程过程调用服务器加载函数实例对应的目标预测模型；基于所述目标预测模型以及滑动窗口确定预测任务请求数量。

在本发明的一个或多个实施方式中，基于所述目标预测模型以及滑动窗口确定预测任务请求数量，具体包括：基于所述目标预测模型并采用多步时间序列预测算法，预测所述滑动窗口经过当前时间间隔后下一时间步内加入的任务请求数量，以确定预测任务请求数量。