[发明专利]基于伦理风险评定的人工智能伦理风险辨识和防范方法

说明书

基于伦理风险评定的人工智能伦理风险辨识和防范方法，包括：装置与场景获取步骤；规则和风险类型获取步骤；场景判断与规则选择步骤；规则设定步骤；场景变化检测步骤。上述方法、系统和机器人，根据事件场景动态选择合适的人工智能伦理规则来降低和防范人工智能伦理风险，使得同一个人工智能装置可以根据事件场景选择合适的不同的人工智能伦理规则，从而可以提高人工智能装置遵守人工智能伦理规则的灵活性，通过选择合适的事件场景，可以极大防范和降低人工智能伦理规则在事件场景中所产生的人工智能伦理风险。

技术领域

本发明涉及人工智能技术领域，特别是涉及一种基于伦理风险评定的人工智能伦理风险辨识和防范方法。

背景技术

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：现有的人工智能体例如人工智能机器人或装置或系统一般只是通过人工智能算法例如识别算法来防范风险，但有些两难问题例如伦理困境中的人工智能伦理风险是仅仅依靠人工智能算法例如识别算法所无法解决的，这些风险并不是人工智能体本身算法出错，而是处于进退两难的境地，例如刹车失灵，必须撞人的时候，是撞左边的人还是右边的人，诸如此类问题。

因此，现有技术还有待于改进和发展。

发明内容

基于此，有必要针对现有技术的缺陷或不足，提供基于伦理风险评定的人工智能伦理风险辨识和防范方法，以解决现有技术中人工智能体仅仅依靠人工智能算法无法避免的人工智能伦理风险。

第一方面，本发明实施例提供一种人工智能方法，所述方法包括：

风险类型获取步骤：获取至少一类人工智能伦理风险的集合，获取所述人工智能伦理风险的集合中每一类人工智能伦理风险；

事件场景获取步骤：获取事件场景，作为第一事件场景；

风险存在判断步骤：对所述人工智能伦理风险集合中每一类人工智能伦理风险，判断所述第一事件场景中是否存在所述每一类人工智能伦理风险：若存在，将存在的所述每一类人工智能伦理风险，加入所述第一事件场景中存在的人工智能伦理风险集合，并发送给所述第一事件场景中的人类和人工智能体并提醒所述第一事件场景中的人类和人工智能体进行风险防范；

风险大小计算步骤：获取所述第一事件场景中存在的所述人工智能伦理风险集合中的每一类人工智能伦理风险的概率、风险值，将所述每一类人工智能伦理风险的概率、风险值进行加权平均，得到所述第一事件场景中存在的人工智能伦理风险的大小；

事件场景变换步骤：若所述第一事件场景中存在的人工智能伦理风险集合不为空，则通过事件场景变换，根据所述第一事件场景得到尽量少地存在所述第一事件场景中存在的人工智能伦理风险集合中人工智能伦理风险的事件场景，作为第二事件场景；

行为预测步骤：若所述第一事件场景中存在的人工智能伦理风险集合不为空，则根据所述第一事件场景和变换得到的所述第二事件场景，得到所述变换过程中所述第一事件场景中的人类需要执行的行为、人工智能体需要执行的行为；

行为执行步骤：将所述人工智能体需要执行的行为的信息发送给所述第一事件场景中的人工智能体进行执行；将所述人类需要执行的行为的信息发送给所述第一事件场景中的人类。

在其中一个优选实施例中，所述方法的所述风险存在判断步骤中判断所述第一事件场景中是否存在所述每一类人工智能伦理风险的步骤包括：