[发明专利]一种AI推理结果的判优方法及系统

权利要求书

1.一种AI推理结果的判优方法，其特征在于，包括：

通过AI管理单元确定AI计算任务的配置信息，并将所述配置信息发送至AI输入单元；

通过所述AI输入单元接收视频源，根据所述配置信息对所述视频源进行预处理，以得到源消息和源数据，并将所述源消息发送至事件处理单元，将所述源数据发送至所述AI计算单元，以使所述AI计算单元根据所述源数据和所述配置信息得到计算结果；

通过接收转换单元接收所述计算结果，并对所述计算结果进行解析，以得到结果事件，并将所述结果事件发送至事件处理单元；

通过所述事件处理单元根据所述源消息对所述结果事件进行同步，以根据所述结果事件得到事件消息，并将所述事件消息发送至判优分析单元；

通过所述判优分析单元对所述事件消息进行判优处理，以得到推理结果。

2.根据权利要求1所述的方法，其特征在于，通过所述事件处理单元根据所述源消息对所述结果事件进行同步，以根据所述结果事件得到事件消息，具体包括：

根据所述源消息和所述配置信息确定结果消息队列，其中，所述结果消息队列包括但不限于数据源标识、时间信息、任务标识、计算单元标识；

将所述结果事件与所述结果消息队列进行比对，以对所述结果消息队列进行更新，并根据所述数据源标识将所述结果事件进行打包，以得到所述事件消息。

3.根据权利要求2所述的方法，其特征在于，根据所述数据源标识将所述结果事件进行打包之前，所述方法还包括：

通过所述事件处理单元确定预先设定的超时机制，根据所述超时机制的时间限制对所述AI计算单元进行超时查询；

若所述AI计算单元在所述时间限制内没有生成所述计算结果，则通过所述事件处理单元生成失败事件消息，并将所述失败事件消息发送至所述判优分析单元。

4.根据权利要求2所述的方法，其特征在于，所述AI计算任务对应多个所述AI计算单元；

通过所述判优分析单元对所述事件消息进行判优处理之前，所述方法还包括：

根据所述任务标识，通过所述判优分析单元对所述事件消息进行分类；

根据所述计算单元标识对分类后的所述事件消息进行比对，以判断所述AI计算单元的数量与所述计算结果的数量是否一致；

若所述AI计算单元的数量与所述计算结果的数量一致，则将全部的所述计算结果标记为第一结果；

若所述AI计算单元的数量与所述计算结果的数量不一致，则确定所述计算结果中的失败结果，并根据所述失败结果在所述计算结果中确定第二结果；

根据所述第一结果和所述第二结果的比值确定所述AI计算任务的成功率。

5.根据权利要求4所述的方法，其特征在于，通过所述判优分析单元对所述事件消息进行判优处理，具体包括：

将所述成功率与预先设置的阈值进行比较；

若所述成功率小于所述阈值，则通过所述判优分析单元判决所述AI计算任务为失败；

若所述成功率大于或等于所述阈值，则确定预先设置的置信度，根据所述置信度通过所述判优分析单元对所述计算结果进行判优，以得到推理结果。

6.根据权利要求1所述的方法，其特征在于，将所述配置信息发送至AI输入单元之后，所述方法还包括：

根据所述配置信息确定资源文件和推理任务，通过所述AI输入单元将所述资源文件发和所述推理任务送至所述AI计算单元，以根据所述资源文件对所述AI计算单元进行模型配置，根据所述推理任务对所述AI计算单元进行任务配置，其中，所述推理任务包括但不限于人脸识别、物体检测。

7.根据权利要求1所述的方法，其特征在于，得到推理结果之后，所述方法还包括：

将所述推理结果发送至结果处理单元，通过所述结果处理单元确定所述推理结果的显示信息，将所述显示信息进行云端推送。