[发明专利]基于伦理规则修订的人工智能伦理风险辨识防范方法

说明书

基于伦理规则修订的人工智能伦理风险辨识防范方法，包括：场景获取步骤、规则获取步骤、初始化步骤、优选度计算步骤、规则选择步骤、规则修订步骤、规则和行为推荐步骤。上述方法、系统和机器人，通过对人工智能伦理规则的不断修订得到在事件场景中产生的人工智能伦理风险小于预设阈值的人工智能伦理规则，使得人工智能伦理风险的辨识和防范不再被单一的人工智能伦理规则所束缚，从而使得事件场景中的人工智能伦理风险变得可控。

技术领域

本发明涉及人工智能技术领域，特别是涉及一种基于伦理规则修订的人工智能伦理风险辨识防范方法。

背景技术

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：现有技术中事件场景的人工智能伦理规则一旦确定就不会再改变，而是基于确定的人工智能伦理规则进行人工智能伦理风险的辨识和防范，但有的人工智能伦理规则本身就不适合有些事件场景，导致无论如何调整行为都无法进行人工智能伦理风险的防范，进而会导致人工智能伦理风险防范的失败。

因此，现有技术还有待于改进和发展。

发明内容

基于此，有必要针对现有技术的缺陷或不足，提供基于伦理规则修订的人工智能伦理风险辨识防范方法，以解决现有技术中人工智能伦理规则固定不变导致的在某些事件场景中人工智能伦理风险无法防范的问题。

第一方面，本发明实施例提供一种人工智能方法，所述方法包括：

场景获取步骤：获取事件场景，作为第一事件场景；

规则获取步骤：获取人工智能伦理规则，作为第一人工智能伦理规则；

初始化步骤：将所述第一人工智能伦理规则作为至少一个人工智能伦理规则；

优选度计算步骤：对所述至少一个人工智能伦理规则中的每一人工智能伦理规则，获取在所述第一事件场景中产生人工智能伦理风险大小最小且行为成本低的人类行为及其对应的人工智能体行为，作为所述每一人工智能伦理规则对应的优选的人类行为和优选的人工智能体行为；根据所述最小的人工智能伦理风险大小和行为成本计算所述每一人工智能伦理规则的优选度；将所述最小的人工智能伦理风险大小作为所述每一人工智能伦理规则对应的人工智能伦理风险大小；

规则选择步骤：从所述至少一个人工智能伦理规则中，获取优选度最高的人工智能伦理规则，若优选度最高的人工智能伦理规则对应的人工智能伦理风险大小小于第二预设风险阈值，则将优选度最高的人工智能伦理规则作为优选的人工智能伦理规则，并执行所述规则和行为推荐步骤，否则执行所述规则修订步骤或将优选度最高的人工智能伦理规则作为所述第一人工智能伦理规则后执行所述规则修订步骤；

规则修订步骤：基于所述第一人工智能伦理规则修订得到至少一个人工智能伦理规则，回到所述优选度计算步骤重新执行；

规则和行为推荐步骤：将所述优选的人工智能伦理规则发送给所述第一事件场景中的人工智能体和人类；获取所述优选的人工智能伦理规则对应的所述优选的人类行为，发送给所述第一事件场景中的人类，提示所述第一事件场景中的人类执行所述优选的人工智能伦理规则对应的所述优选的人类行为；根据所述优选的人工智能伦理规则对应的所述优选的人工智能体行为，调用所述第一事件场景中的人工智能体执行所述优选的人工智能伦理规则对应的所述优选的人工智能体行为。

在其中一个优选实施例中，所述优选度计算步骤具体包括：

人类行为获取步骤：获取在所述第一事件场景中可能发生的所有人类行为；

人类行为判断步骤：对在所述第一事件场景中可能发生的所有人类行为中的每一人类行为，若所述每一人类行为为空，则将所述第一事件场景作为人类行为后的第二事件场景，若人类行为不为空，则执行人类行为后场景仿真步骤；