[发明专利]AI框架的安全评测方法、装置、设备及存储介质

权利要求书

1.一种AI框架的安全评测方法，其特征在于，所述种AI框架的安全评测方法包括：

获取待评测AI框架的框架源代码；

根据所述框架源代码对所述待评测AI框架进行模块构成分析，获得框架组成分析结果；

对所述待评测AI框架进行攻击面分析，获得攻击面分析结果；

基于所述框架组成分析结果和所述攻击面分析结果对所述待评测AI框架进行安全风险评测，获得安全风险评测结果；

其中，所述基于所述框架组成分析结果和所述攻击面分析结果对所述待评测AI框架进行安全风险评测，获得安全风险评测结果的步骤，包括：

根据所述框架组成分析结果和所述攻击面分析结果确定所述待评测AI框架中包含的潜在风险模块；

通过历史漏洞数据库对所述潜在风险模块进行安全风险评测，获得第一风险测评结果；

对所述潜在风险模块进行漏洞挖掘，并对所挖掘的漏洞进行风险评测，获得第二风险评测结果；

根据所述第一风险测评结果和所述第二风险评测结果获得安全风险评测结果。

2.如权利要求1所述的AI框架的安全评测方法，其特征在于，所述根据所述框架组成分析结果和所述攻击面分析结果确定所述待评测AI框架中包含的潜在风险模块的步骤，包括：

根据所述框架组成分析结果确定所述待评测AI框架中包含的功能处理模块和依赖组件；

根据所述攻击面分析结果从所述功能处理模块中确定目标风险模块；

根据所述目标风险模块和所述依赖组件确定所述待评测AI框架中包含的潜在风险模块。

3.如权利要求1所述的AI框架的安全评测方法，其特征在于，所述通过历史漏洞数据库对所述潜在风险模块进行安全风险评测，获得第一风险测评结果的步骤，包括：

获取所述潜在风险模块的模块标识信息；

采用精确匹配方式在历史漏洞数据库中查找是否存在与所述模块标识信息对应的漏洞信息；

若存在，则根据查找到的漏洞信息对所述潜在风险模块进行安全风险评测，获得第一风险测评结果。

4.如权利要求3所述的AI框架的安全评测方法，其特征在于，所述采用精确匹配方式在历史漏洞数据库中查找是否存在与所述模块标识信息对应的漏洞信息的步骤之后，所述方法还包括：

若不存在，则根据所述模块标识信息在外部数据源中查找所述潜在风险模块对应的漏洞信息；

根据查找到的漏洞信息对所述潜在风险模块进行安全风险评测，获得第一风险测评结果。

5.如权利要求1所述的AI框架的安全评测方法，其特征在于，所述潜在风险模块包括目标风险模块和依赖组件；

所述对所述潜在风险模块进行漏洞挖掘，并对所挖掘的漏洞进行风险评测，获得第二风险评测结果的步骤，包括：

确定所述目标风险模块的操作对象和所能实现的模块功能；

根据所述操作对象和所述模块功能从所述目标风险模块中筛选出待检测模块；

对所述待检测模块和所述依赖组件进行漏洞挖掘，并对所挖掘的漏洞进行风险评测，获得第二风险评测结果。

6.如权利要求5所述的AI框架的安全评测方法，其特征在于，所述对所述待检测模块和所述依赖组件进行漏洞挖掘，并对所挖掘的漏洞进行风险评测，获得第二风险评测结果的步骤，包括：

获取所述依赖组件所能实现的组件功能；

将所述组件功能属于预设功能维度的依赖组件作为待检测组件；

获取预先构建的漏洞挖掘数据集，根据所述漏洞挖掘数据集对所述待检测组件和所述待检测模块进行漏洞挖掘；

对所挖掘的漏洞进行风险评测，获得第二风险评测结果。

7.如权利要求6所述的AI框架的安全评测方法，其特征在于，所述获取预先构建的漏洞挖掘数据集，根据所述漏洞挖掘数据集对所述待检测组件和所述待检测模块进行漏洞挖掘的步骤，包括：

获取预先构建的漏洞挖掘数据集；

根据所述漏洞挖掘数据集中存放的音视频数据、图像数据和/或模型数据对所述待检测组件和所述待检测模块进行漏洞挖掘。