[发明专利]基于伦理风险评定的人工智能伦理风险辨识和防范方法

权利要求书

1.一种人工智能方法，其特征在于，所述方法包括：

风险类型获取步骤：获取至少一类人工智能伦理风险的集合，获取所述人工智能伦理风险的集合中每一类人工智能伦理风险；

事件场景获取步骤：获取事件场景，作为第一事件场景；

风险存在判断步骤：对所述人工智能伦理风险集合中每一类人工智能伦理风险，判断所述第一事件场景中是否存在所述每一类人工智能伦理风险：若存在，将存在的所述每一类人工智能伦理风险，加入所述第一事件场景中存在的人工智能伦理风险集合，并发送给所述第一事件场景中的人类和人工智能体并提醒所述第一事件场景中的人类和人工智能体进行风险防范；

风险大小计算步骤：获取所述第一事件场景中存在的所述人工智能伦理风险集合中的每一类人工智能伦理风险的概率、风险值，将所述每一类人工智能伦理风险的概率、风险值进行加权平均，得到所述第一事件场景中存在的人工智能伦理风险的大小；

事件场景变换步骤：若所述第一事件场景中存在的人工智能伦理风险集合不为空，则通过事件场景变换，根据所述第一事件场景得到尽量少地存在所述第一事件场景中存在的人工智能伦理风险集合中人工智能伦理风险的事件场景，作为第二事件场景；

行为预测步骤：若所述第一事件场景中存在的人工智能伦理风险集合不为空，则根据所述第一事件场景和变换得到的所述第二事件场景，得到所述变换过程中所述第一事件场景中的人类需要执行的行为、人工智能体需要执行的行为；

行为执行步骤：将所述人工智能体需要执行的行为的信息发送给所述第一事件场景中的人工智能体进行执行；将所述人类需要执行的行为的信息发送给所述第一事件场景中的人类。

2.根据权利要求1所述的人工智能方法，其特征在于，所述方法的所述风险存在判断步骤中判断所述第一事件场景中是否存在所述每一类人工智能伦理风险的步骤包括：

第一风险评定深度学习模型构建步骤：初始化深度学习模型作为第一风险评定深度学习模型；获取事件场景的训练数据集，将所述事件场景作为所述第一风险评定深度学习模型的输入，对所述第一风险评定深度学习模型进行无监督训练；获取事件场景、所述事件场景是否存在所述每一类人工智能伦理风险的标签的训练数据集，将事件场景和所述事件场景是否存在所述每一类人工智能伦理风险的标签作为所述第一风险评定深度学习模型的输入和预期输出，对所述第一风险评定深度学习模型进行有监督训练；获取事件场景、所述事件场景是否存在所述每一类人工智能伦理风险的标签的测试数据集，将事件场景、所述事件场景是否存在所述每一类人工智能伦理风险的标签作为所述第一风险评定深度学习模型的输入和预期输出，对所述第一风险评定深度学习模型进行测试；

第一风险评定深度学习模型使用步骤：将所述第一事件场景输入所述第一风险评定深度学习模型，计算得到所述第一风险评定深度学习模型的输出作为所述第一事件场景中是否存在所述每一类人工智能伦理风险的判断结果。