[发明专利]一种异构计算系统的构建方法及系统

权利要求书

1.一种异构计算系统的构建方法，其特征在于，所述方法包括：

根据不同的业务需求，确定与所述业务需求对应的任务类型；

根据所述任务类型，获取与所述任务类型对应的训练数据，并构建与所述任务类型对应的神经网络模型；

采用预先建立的异构计算系统，采用所述训练数据对所述神经网络模型进行训练，得到与所述任务类型对应的模型文件；

采用XPU加速栈对与所述任务类型对应的模型文件进行转换，得到与所述XPU加速栈对应的模型部署文件和配置文件；具体包括：

采用不同的加速卡对应的加速栈对所述与任务类型对应的模型文件进行预设规则的推理，得到与所述神经网络模型对应的处理结果，其中，所述预设规则至少包括计算图剪枝算法、算子融合算法、模型INT8量化算法中的一种；

根据不同的异构计算系统，采用静态编译的方式对所述处理结果进行编译，得到与所述XPU加速栈对应的模型部署文件和配置文件；

采用所述预先建立的异构计算系统，对所述模型部署文件和配置文件进行封装，得到不同的业务服务，并将所述业务服务进行发布。

2.根据权利要求1所述的方法，其特征在于，所述根据所述任务类型，获取与所述任务类型对应的训练数据，包括：

根据所述任务类型，接收用户输入的与所述任务类型对应的训练数据；

或者

根据网络爬取方式获取与所述任务类型对应的训练数据。

3.根据权利要求2所述的方法，其特征在于，所述构建与所述任务类型对应的神经网络模型，包括：

对所述训练数据进行数据清洗、数据标注和数据集类型分类，得到处理后的训练数据；

将所述处理后的训练数据存储在预先建立的数据库中；

根据所述处理后的训练数据，建立与所述训练数据对应的神经网络模型；

根据所述神经网络模型生成计算图。

4.根据权利要求3所述的方法，其特征在于，所述预先建立的异构计算系统至少包括处理器、加速卡、操作系统和深度学习框架组件，其中，所述处理器、加速卡、操作系统和深度学习框架组件是不同类型的，所述预先建立的异构计算系统至少包括图像分类、目标识别、推荐、语音、文本和强化学习中的一种。

5.根据权利要求3所述的方法，其特征在于，所述采用预先建立的异构计算系统，采用与所述任务类型对应的训练数据对所述神经网络模型进行训练，得到与所述任务类型对应的模型文件，包括：

所述采用预先建立的异构计算系统，采用与所述任务类型对应的训练数据对所述神经网络模型进行训练，生成与任务类型对应的模型文件，且所述模型文件的输出格式至少包括可扩展的计算图模块、标准数据类型或内置运算符中的一种。

6.根据权利要求5所述的方法，其特征在于，所述采用所述预先建立的异构计算系统，对所述模型部署文件和配置文件进行封装，得到不同的业务服务，并将所述业务服务进行发布，包括：

对于不同的预先建立的异构计算系统，采用容器化部署方式，对所述模型部署文件和配置进行封装，得到不同的业务服务器，并将所述业务服务进行发布。

7.根据权利要求6所述的方法，其特征在于，所述方法还包括：

将所述业务服务作为远程调用端口，以供远程控制端调用该业务服务执行对应操作。

8.一种异构计算系统，其特征在于，所述异构计算系统至少包括处理器、加速卡、操作系统和深度学习框架组件，其中，所述处理器和加速卡分别为不同类型的板卡，所述异构计算系统用于执行如权利要求1-7任一所述的异构计算系统的构建方法。

9.根据权利要求8所述的系统，其特征在于，所述系统还包括远程控制端，所述远程控制端用于调用所述异构计算系统生成的各种服务。