[发明专利]一种基于感算联动的智联网安全分析方法

说明书

本发明公开了一种基于感算联动的智联网安全分析方法，该方法针对智联网中广泛存在的传感器与人工智能算法联动的现象，通过从物理域构造并注入针对人工智能算法的对抗样本的方式，分析智联网系统的整体脆弱性。该方法首先根据智联网的处理信息的前后环节，将所述智联网系统概括为若干条信息通路，然后再对每一条信息通路进行脆弱性分析，搭建用于信号注入的实际测试平台，判断其是否存在实际威胁并交由专业人员评估其危害程度，最后综合每个脆弱性的分析结果，评估所述智联网系统的整体安全程度。本发明方法可以全面分析潜在脆弱性，更快地挖掘出系统的安全问题。

技术领域

本发明属于智能系统安全领域，涉及一种基于感算联动的智联网安全分析方法。

背景技术

智联网是人工智能技术与物联网基础设施的结合，以实现更高效的物联网运营，改善人机交互，并增强数据管理和分析。2018年，毕马威(KPMG)发布了一份到2040年关于人工智能未来情景应用的前瞻性研究。分析师们详细描述了这样一个场景，智联网中每个设备都配备了自己的人工智能算法，而这些人工智能可以自主连接到其他人工智能，一起智能地执行任务，利用群体智能实时控制和执行价值创造。实现这一情景的基本要求是每个智联网设备的感知与智能算法。

与新技术带来的效益伴生的是潜在的安全隐患，由于人工智能技术的应用，智联网系统将替人类承担更多的复杂事务，例如自动驾驶应用，但这也意味着使用者的生命安全被机器所掌管。因此，智联网系统的安全往往会导致更大更严重的问题。现有人工智能安全的相关工作主要研究由人工智能算法自身不可解释性导致的算法脆弱性问题，未曾考虑感知模块脆弱性对人工智能算法引入的安全风险，存在脆弱性分析不够全面、脆弱性挖掘不够高效等问题。

发明内容

针对上述现有技术存在的缺陷，本发明提供一种基于感算联动的智联网安全分析方法。本发明的基于感算联动的安全分析方法可以做到全面分析潜在脆弱性，更快地挖掘出系统的安全问题。本发明针对智联网系统安全的核心科学问题，开展安全通用威胁理论模型的研究，形成系统有效的理论和方法体系，对未来智联网的发展有着重要的理论指导意义。

本发明采用以下技术方案实现：

一种基于感算联动的智联网安全分析方法，该方法首先根据智联网的处理信息的前后环节，将所述智联网系统概括为若干条信息通路，然后再对每一条信息通路进行脆弱性分析，搭建用于信号注入的实际测试平台，判断其是否存在实际威胁并交由专业人员评估其危害程度，最后综合每个脆弱性的分析结果，评估所述智联网系统的整体安全程度。

上述技术方案中，进一步地，所述方法具体包括以下步骤：

1)获取所述智联网系统所配备的传感器种类、型号、功能等硬件信息，获取传感器所传递的数据类型、格式、范围等配置信息，获取接受传递数据的人工智能算法的流程、参数、结构等软件信息，获取人工智能算法所决定的所述智联网系统的行为、时效、结果等决策信息。该步骤需获取的信息具体包括以下四种：

(1)所需获取的传感器硬件信息，具体的包括设备工作原理、设备内部电路的基本结构以及可感知的物理信号信息，如类型、强度、范围等；

(2)所需获取的数据配置信息，具体的包括数据存储类型、数据精度大小、数据表达含义以及后续算法所利用的数据范围；

(3)所需获取的算法软件信息，具体的包括对于传感器数据的预处理环节、人工智能算法类型、神经网络模型的结构与参数以及算法处理结果的含义；

(4)所需获取的系统决策信息，具体的包括系统决策模型类型与参数、决策对于执行器的控制方式与效果以及决策对于系统的影响，包括持续时间、强度、范围等。

2)针对步骤1)获取到的硬件、配置、软件、决策信息，形成所述智联网系统的若干条“状态→感知→算法→决策→执行”的信息通路，对每一条信息通路进行独立分析，所述独立分析包括感知脆弱性分析、算法脆弱性分析和决策脆弱性分析。该步骤具体包括：