[发明专利]AI框架的安全评测方法、装置、设备及存储介质

说明书

本发明涉及软件安全技术领域，公开一种AI框架的安全评测方法、装置、设备及存储介质，该方法包括：获取待评测AI框架的框架源代码，根据框架源代码对待评测AI框架进行模块构成分析，获得框架组成分析结果，然后对待评测AI框架进行攻击面分析，获得攻击面分析结果，再基于框架组成分析结果和攻击面分析结果对待评测AI框架进行安全风险评测，获得安全风险评测结果。本发明通过将AI框架中模块的成分分析和模块的攻击面分析相结合来对AI框架进行安全风险评测，相比于现有的依赖于传统漏洞挖掘技术和依赖人工逆向分析方式，一方面能够保证风险评测的全面性和准确性，另一方面也能提高了风险评测的自动化程度和对安全风险的感知力。

技术领域

本发明涉及软件安全技术领域，尤其涉及一种AI框架的安全评测方法、装置、设备及存储介质。

背景技术

近年来，许多全球知名的互联网IT技术企业发布了一系列开源的人工智能框架，如Tensorflow、PyTorch、MXNet、CNTK、Caffe等，并已经被工业界和学术界广泛采用。

各大厂商在研发人工智能框架时，更多关注其功能、性能以及面向开发者的易用性，对系统软件本身实现层面的安全性缺乏充分考虑。一方面，人工智能(ArtificialIntelligence，AI)框架内部实现层面可能带有安全隐患；另一方面，AI框架存在不同程度调用第三方组件的情况，为AI系统引入了供应链安全风险。由于框架使用者众多，框架数据安全一旦出现问题，将导致严重的危害。因此，对云端机器学习框架的数据安全进行检测至关重要，自动化安全检测产品的研制也符合工业界的需求。

目前，AI框架安全研究已经开始引起业界的重视，并有较多常见深度学习框架的漏洞被暴露出来，然而当前的框架数据安全检测仍然依赖于传统漏洞挖掘技术，并严重依赖人工逆向分析，缺少面向框架数据安全的，有针对性、系统性的自动化检测工具或方式，缺少漏洞威胁感知系统。

上述内容仅用于辅助理解本发明的技术方案，并不代表承认上述内容是现有技术。

发明内容

本发明的主要目的在于提供了一种AI框架的安全评测方法、装置、设备及存储介质，旨在解决现有的框架数据安全检测方式过于依赖传统的漏洞挖掘技术和人工逆向分析，导致全面性和系统性不足的技术问题。

为实现上述目的，本发明提供了一种AI框架的安全评测方法，所述方法包括以下步骤：

获取待评测AI框架的框架源代码；

根据所述框架源代码对所述待评测AI框架进行模块构成分析，获得框架组成分析结果；

对所述待评测AI框架进行攻击面分析，获得攻击面分析结果；

基于所述框架组成分析结果和所述攻击面分析结果对所述待评测AI框架进行安全风险评测，获得安全风险评测结果。

可选地，所述基于所述框架组成分析结果和所述攻击面分析结果对所述待评测AI框架进行安全风险评测，获得安全风险评测结果的步骤，包括：

根据所述框架组成分析结果和所述攻击面分析结果确定所述待评测AI框架中包含的潜在风险模块；

通过历史漏洞数据库对所述潜在风险模块进行安全风险评测，获得第一风险测评结果；

对所述潜在风险模块进行漏洞挖掘，并对所挖掘的漏洞进行风险评测，获得第二风险评测结果；

根据所述第一风险测评结果和所述第二风险评测结果获得安全风险评测结果。

可选地，所述根据所述框架组成分析结果和所述攻击面分析结果确定所述待评测AI框架中包含的潜在风险模块的步骤，包括：

根据所述框架组成分析结果确定所述待评测AI框架中包含的功能处理模块和依赖组件；