[发明专利]算法调度方法以及系统

权利要求书

1.一种算法调度方法，其特征在于，包括：

接收算法任务请求指令，所述算法任务请求指令用于请求获取目标算法；

基于所述算法任务请求指令获取多个服务器的负载数据；

根据所述多个服务器的负载数据对所述多个服务器进行排序，以将排序靠前的前N个服务器确定为多个候选服务器；

基于预设的调度规则和多个候选服务器的负载数据，从所述多个候选服务器中确定目标服务器；

将所述算法任务请求指令下发至所述目标服务器，使所述目标服务器执行所述目标算法以实现目标算法的调度。

2.根据权利要求1所述的算法调度方法，其特征在于，所述基于所述算法任务请求指令获取多个服务器的负载数据包括：

当所述任务调度组件接收到所述算法任务请求指令时，通过所述任务调度组件生成服务器启动指令，并将所述服务器启动指令发送至执行器组件；

接收所述执行器组件基于所述服务器启动指令返回的各个服务器的注册信息以及对应的负载数据。

3.根据权利要求2所述的算法调度方法，其特征在于，所述根据所述多个服务器的负载数据对所述多个服务器进行排序，以将排序靠前的前N个服务器确定为多个候选服务器包括：

从所述多个服务器的所述负载数据中获取中央处理器占用数据；

根据所述中央处理器占用数据对多个服务器进行排序，并将排序靠前的前N个服务器确定为多个候选服务器。

4.根据权利要求3所述的算法调度方法，其特征在于，所述基于预设的调度规则和多个候选服务器的负载数据，从所述多个候选服务器中确定目标服务器包括：

基于所述多个候选服务器的负载数据以及所述调度规则，生成每个候选服务器对应的调度分值；

将多个所述调度分值与预设调度阈值进行比对；

将所述调度分值大于预设阈值的候选服务器确定为目标服务器。

5.根据权利要求1所述的算法调度方法，其特征在于，当目标算法为模型应用算法时，所述将所述算法任务请求指令下发至所述目标服务器，使所述目标服务器执行所述目标算法以实现目标算法的调度包括：

通过所述目标服务器根据所述算法任务请求指令中的算法版本号生成所述目标算法对应的目标算法标识号，根据所述目标算法标识号获取目标算法的目标算法二进制字节码；

基于所述目标算法的目标算法标识号获取与所述目标算法对应的模型文件；

结合所述目标算法的模型文件执行所述目标算法二进制字节码以得到目标算法应用结果；

将执行目标算法的目标服务器的数据注册到应用注册组件上，并生成应用算法注册指令，将所述应用算法注册指令发送至算法调用网关；

接收所述算法调用网关基于所述应用算法注册指令生成的算法调用指令，根据算法调用指令通过算法调用网关输出目标算法应用结果，以实现目标算法的调用。

6.根据权利要求1所述的算法调度方法，其特征在于，当所述目标算法为模型训练算法时，所述将所述算法任务请求指令下发至所述目标服务器，使所述目标服务器执行所述目标算法以实现目标算法的调度还包括：

通过所述目标服务器根据所述算法任务请求指令中的算法版本号生成目标算法对应的目标算法标识号，根据所述目标算法标识号获取所述目标算法的训练数据以及二进制码训练模型；

将所述训练数据输入至二进制码训练模型中进行训练，以得到目标模型文件，将所述目标模型文件保存至算法仓库组件中；

生成训练完成指令，并将所述训练完成指令发送至所述任务调度组件，以使所述任务调度组件输出目标模型文件以供外部服务器使用。

7.根据权利要求5所述的算法调度方法，其特征在于，所述方法还包括：

通过所述算法调度网关在预设时间内监控各个算法的调用频率；

将各个算法的调用频率和预设的调用阈值进行比对，以筛选出第一算法和第二算法；

并基于所述第一算法生成第一部署指令以及基于所述第二算法生成第二部署指令，并将所述第一部署指令和第二部署指令发送至所述任务调度组件，以使所述任务调度组件根据所述第一部署指令执行所述第一算法的调度和根据第二部署指令执行所述第二算法的调度。