[发明专利]训练模块的方法和防止捕获AI模块的方法

权利要求书

1.一种训练AI系统（10）中的模块（16）的方法，所述AI系统（10）至少包括执行模型的AI模块（14）、数据集（12）和适于被训练的所述模块（16），所述方法包括以下步骤：

- 在所述模块（16）中接收输入数据；

- 在所述模块（16）中将数据标记为好数据和坏数据；

- 在所述模块（16）中对所述标记的好数据和所述标记的坏数据进行二元分类；

- 将所述二元分类的数据输入到所述AI模块（14）中；以及

- 响应于所述模块（16）中的所述二元分类数据，记录所述AI模块的内部行为。

2.根据权利要求1所述的方法，其中在记录所述AI模块（14）的内部行为后所述模块（16）是经训练模块（16）。

3.根据权利要求2所述的方法，其中所述经训练模块（16）是使用监督学习方法技术来训练的。

4.根据权利要求1所述的方法，其中，在标记的坏数据的二元分类期间，所述标记的坏数据以使得所述标记的坏数据以相对于标记的好数据平衡的方式被表示这样的方式被采样。

5.一种防止捕获AI系统（10）中的AI模块（14）的方法，所述方法包括以下步骤：

- 通过输入接口（11）从至少一个用户接收输入；

- 在所述AI模块（14）和所述模块（16）中处理所述接收到的输入，所述模块（16）是经训练模块（16）；

- 基于所述AI系统（10）中的经训练模块（16）标注所述接收到的输入，所述标注在所述经训练模块（16）中执行；

- 标注从其接收所述输入的所述至少一个用户，所述标注在所述经训练模块（16）中执行；

- 基于在所述AI模块（14）中完成的处理，计算由所述至少一个用户提取的信息增益，所述计算在信息增益（IG）模块（18）中执行；以及

- 基于所述计算的信息增益来闭锁所述至少一个用户，所述闭锁是使用拦截器（20）和拦截器通知器（22）来执行的。

6.根据权利要求5所述的防止捕获AI系统（10）中的AI模块（14）的方法，其中使用信息增益方法技术计算所述信息增益。

7.根据权利要求5所述的防止捕获AI系统（10）中的AI模块（14）的方法，其中所述方法包括如果提取的信息增益超过预定义的阈值则闭锁用户的步骤。

8.根据权利要求5所述的防止捕获AI系统（10）中的AI模块（14）的方法，其中所述方法包括基于由多个用户提取的所述计算的信息增益来闭锁系统的步骤。

9.根据权利要求8所述的防止捕获AI系统（10）中的AI模块（14）的方法，其中如果由多个用户提取的累积信息增益超过预定义的阈值，则发起闭锁系统。