[发明专利]训练模块的方法和防止捕获AI模块的方法

说明书

公开了训练AI系统中的模块的方法和防止捕获AI系统中的AI模块的方法。训练AI系统（10）中的模块（16）的方法，该AI系统（10）至少包括执行模型的AI模块（14）、数据集（12）和适于被训练的模块（16）。该方法包括以下步骤：在模块（16）中接收输入数据，在模块（16）中将数据标记为好数据和坏数据，在模块（16）中将标记的好数据和标记的坏数据二元分类，将二元分类的数据输入到AI模块（14）中，以及响应于模块（16）上的二元分类的数据而记录AI模块（14）的内部行为。

技术领域

本公开涉及训练AI系统中的模块的方法和防止捕获AI系统中的AI模块的方法。

背景技术

如今，大多数数据处理和决策系统是使用人工智能模块实现的。人工智能模块使用不同的技术，如机器学习、神经网络、深度学习等。

大多数基于AI的系统接收大量数据并处理数据以训练AI模型。经训练AI模型基于用户请求的用例生成输出。通常，AI系统用在计算机视觉、语音识别、自然语言处理、音频识别、医疗保健、自主驾驶、制造、机器人等领域中，在这些领域中它们处理数据以基于通过训练获取的某些规则/智能生成所需的输出。

为了处理输入，AI系统使用各种模型/算法，所述模型/算法使用训练数据进行训练。一旦使用训练数据训练了AI系统，AI系统就使用模型来分析实时数据并生成适当的结果。可以基于结果实时微调模型。

AI系统中的模型形成系统的核心。大量的努力、资源（有形的和无形的）和知识投入到开发这些模型中。

可能的是一些对手可以试图从AI系统中捕获/复制/提取模型。对手可以使用不同的技术从AI系统中捕获模型。对手使用的一种简单技术是其中对手使用其自己的测试数据迭代地向AI系统发送不同的查询。测试数据可以以某种方式设计，以提取关于模型在AI系统中工作的内部信息。对手使用生成的结果来训练其自己的模型。通过迭代地进行这些步骤，可能的是捕获模型的内部，并且可以使用类似的逻辑构建并行模型。这将给AI系统的最初开发者引发困难。困难可能是以商业缺陷、机密信息的损失、开发中花费的研制周期的损失、知识产权的损失、未来收益的损失等形式。

现有技术中有已知的方法来标识对手的这样的攻击，并保护AI系统中使用的模型。现有技术US 2019/0095629 A1公开了一种这样的方法。

上述现有技术中公开的方法接收输入，通过将经训练模型应用于输入数据来处理输入数据，以生成对于多个预定义类中的每个类具有值的输出向量。查询引擎通过在与生成输出向量相关联的函数中插入查询来修改输出向量，从而生成修改的输出向量。然后输出修改的输出向量。查询引擎修改一个或多个值来伪装经训练模型逻辑的经训练配置，同时维持输入数据的分类的准确性。

附图说明

本发明的不同模式在说明书中详细公开，并在附图中图示：

图1图示了代表用于基于监督学习创建经训练模块的AI系统的不同构建块的框图；和

图2图示了代表用于防止捕获AI系统中的AI模块的AI系统的不同构建块的框图。

具体实施方式

理解人工智能（AI）技术和基于人工智能（AI）的系统或人工智能（AI）系统的一些方面是重要的。本公开涵盖了AI系统的两个方面。第一个方面涉及AI系统中模块的训练，并且第二个方面涉及防止捕获AI系统中的AI模块。