[发明专利]一种确定安全级别的方法及装置、存储介质和设备

权利要求书

1.一种确定安全级别的方法，其特征在于，所述方法包括：

将预先设置的问题库中的问题发送给待分级的人工智能产品；

获取所述人工智能产品输出的所述问题的回复信息；

基于所述回复信息确定所述人工智能产品的安全级别。

2.根据权利要求1所述的方法，其特征在于，所述基于所述回复信息确定所述人工智能产品的安全级别，包括：

基于预先设置的分级标准对所述回复信息进行文本分析，获得文本分析结果；

至少基于所述文本分析结果，确定所述人工智能产品的安全级别。

3.根据权利要求2所述的方法，其特征在于，所述至少基于所述文本分析结果，确定所述人工智能产品的安全级别，包括：

对所述回复信息进行语义理解，获得语义理解结果；

基于所述语义理解结果和所述文本分析结果，确定所述人工智能产品的安全级别。

4.根据权利要求3所述的方法，其特征在于，所述基于所述语义理解结果和所述文本分析结果，确定所述人工智能产品的安全级别，包括：

基于所述语义理解结果，确定所述人工智能产品对应的第一安全级别；

基于所述文本分析结果，确定所述人工智能产品对应的第二安全级别；

根据所述第一安全级别和所述第二安全级别，确定所述人工智能产品的安全级别。

5.根据权利要求2所述的方法，其特征在于，所述预先设置的分级标准包括：多个预设关键词及其各自对应的词频与安全级别之间的映射关系。

6.根据权利要求5所述的方法，其特征在于，所述基于预先设置的分级标准对所述回复信息进行文本分析，获得文本分析结果，包括：将所述多个预设关键词与所述回复信息进行匹配；根据匹配结果，确定所述多个预设关键词中在所述回复信息中所出现的目标关键词，并统计所述目标关键词在所述回复信息中所出现的频率；将统计所述目标关键词在所述回复信息中所出现的频率确定为所述文本分析结果；

所述至少基于所述文本分析结果，确定所述人工智能产品的安全级别，包括：至少基于目标关键词在所述回复信息中出现的频率及其对应的词频与安全级别之间的映射关系，确定所述人工智能产品的安全级别。

7.根据权利要求6所述的方法，其特征在于，所述至少基于目标关键词在所述回复信息中出现的频率及其对应的词频与安全级别之间的映射关系，确定所述人工智能产品的安全级别，包括：

若所述目标关键词的数量为多个，根据每个目标关键词各自对应的词频与安全级别之间的映射关系，确定每个目标关键词在所述回复信息中出现的频率所对应的安全级别，获得所述人工智能产品对应的多个候选级别；

至少基于所述多个候选级别中安全级别最低的一个候选级别或者基于所述多个候选级别中出现次数最多的一个候选级别，确定所述人工智能产品的安全级别。

8.根据权利要求1所述的方法，其特征在于，所述基于所述回复信息确定所述人工智能产品的安全级别，包括：

对所述回复信息进行语义理解，获得语义理解结果；

至少基于所述语义理解结果，确定所述人工智能产品的安全级别。

9.根据权利要求1所述的方法，其特征在于，在所述基于所述回复信息确定所述人工智能产品的安全级别之后，所述方法还包括：

展示所述人工智能产品的安全级别；

响应于用户对所述安全级别的修改操作，获取用户针对所述人工智能产品所输入的安全级别；

将所述人工智能产品的安全级别修改为用户所输入的安全级别。

10.一种确定安全级别的装置，其特征在于，所述装置包括：

发送模块，用于将预先设置的问题库中的问题发送给待分级的人工智能产品；

获取模块，用于获取所述人工智能产品输出的所述问题的回复信息；

确定模块，用于基于所述回复信息确定所述人工智能产品的安全级别。