[发明专利]一种基于机器学习的显卡任务资源的调度方法及系统

权利要求书

1.一种基于机器学习的显卡任务资源的调度方法，其特征在于，包括：

步骤1：确定同时刻在线的显卡数量以及针对每个在线显卡的请求数量，同时，确定每个在线显卡的资源集以及与在线显卡匹配的资源集中每个资源的任务响应时间；

步骤2：基于机器学习模型分析多个在线显卡在同时刻的请求数量、资源集以及任务响应时间，输出所述多个在线显卡的冲突事件；

步骤3：从除所述多个在线显卡外的剩余显卡中获取基于所述冲突事件的可调度单元，并基于所述可调度单元进行冲突任务的分配，实现显卡资源调度；

其中，基于机器学习模型分析多个在线显卡在同时刻的请求数量、资源集以及任务响应时间，输出所述多个在线显卡的冲突事件，包括：

确定同时刻下多个在线显卡的请求数量是否存在数量拥挤；

若存在，则获取多余请求，并作为第一冲突事件输出；

确定多个在线显卡的每个请求的请求资源类型以及请求占用资源；

当基于多个在线显卡下的同时刻的请求资源类型中的同类型请求的总数量超出类型数量上限时，作为第二冲突事件输出；

判断请求占用资源的资源条目是否超出上限资源集的空闲占用条目；

若超出，作为第三冲突事件输出；

确定多个在线显卡的每个请求的当下排队响应时间点以及当下排队响应时间点与对应任务响应时间的时间差异，作为第四冲突事件输出。

2.如权利要求1所述的基于机器学习的显卡任务资源的调度方法，其特征在于，确定同时刻在线的显卡数量以及针对每个在线显卡的请求数量，包括：

获取针对多个在线显卡在同时刻下的请求表；

统计所述请求表中的请求数量。

3.如权利要求1所述的基于机器学习的显卡任务资源的调度方法，其特征在于，确定每个在线显卡的资源集以及与在线显卡匹配的资源集中每个资源的任务响应时间，包括：

确定每个在线显卡的当前已有资源、预约传输资源、剩余可保存资源，其中，所述当前已有资源、预约传输资源、剩余可保存资源即为资源集；

分析每个在线显卡的显卡类型，并从历史数据库中调取与所述显卡类型匹配的资源分配情况；

对所述资源分配情况进行分配切分，得到针对不同资源的任务响应时间。

4.如权利要求3所述的基于机器学习的显卡任务资源的调度方法，其特征在于，对所述资源分配情况进行分配切分，得到针对不同资源的任务响应时间，包括：

对所述资源分配情况进行时间点分配，构建历史时刻分配表，其中，所述历史时刻分配表包括不同历史时刻下的历史分配资源；

根据所述历史时刻分配表，建立历史分配数组；

对所述历史分配数组进行同类型资源分配，得到历史分配序列，并得到针对同类型资源的第一响应时间；

确定同类型资源的历史先后出现时间顺序与在线显卡匹配的资源集中的当前已有资源以及预约传输资源的先后出现时间顺序之间的匹配映射关系；

根据与所述当前已有资源、预约传输资源以及剩余可保存资源所匹配的资源类型的第一响应时间，且结合匹配映射关系，得到针对不同资源的任务响应时间。

5.如权利要求1所述的基于机器学习的显卡任务资源的调度方法，其特征在于，获取基于所述冲突事件的可调度单元，并基于所述可调度单元进行冲突任务的分配，实现显卡资源调度，包括：

获取针对每个在线显卡的冲突集合；

根据所述冲突集合所包含的冲突类型，向对应在线显卡设置冲突缓解权重；

对所设置的冲突缓解权重进行大小排序，并当存在一致权重时，分析获取每个一致权重所对应冲突事件的产生时间，并进行时间累计计算，对一致权重进行再次大小排序；

根据再次大小排序结果，得到最终权重顺序，并作为对应在线显卡的调度顺序，且结合所述冲突集合匹配的可调度单元，实现对多个在线显卡的冲突任务的分配，实现显卡资源调度。