[发明专利]语义理解框架结构的搜索方法和装置

权利要求书

1.一种语义理解框架结构的搜索方法，包括：

利用编码生成器在搜索空间中采样语义理解框架结构；其中，所述搜索空间包括至少两个语义理解框架结构，所述搜索空间是预先从多个符合终端设备部署要求的语义理解框架结构中筛选出来的；

对采样得到的语义理解框架结构进行训练，得到所述语义理解框架结构的性能信息；

根据所述性能信息更新所述编码生成器，返回利用编码生成器在搜索空间中采样语义理解框架结构的步骤，直至采样语义理解框架结构的次数达到预设阈值N；其中，N为大于或等于2的整数；

将第N次采样得到的语义理解框架结构确定为目标结构。

2.根据权利要求1所述的方法，其中，在首次利用编码生成器在搜索空间中采样语义理解框架结构之前，还包括：

遍历框架结构参数，以得到至少两个采用框架结构参数表征的语义理解框架结构；

基于所述至少两个语义理解框架结构，得到所述搜索空间。

3.根据权利要求2所述的方法，其中，所述框架结构参数包括Transformer模型的堆叠个数、Transformer模型中隐层单元的个数和/或堆叠的各Transformer模型之间的残差参数。

4.根据权利要求1至3中任一项所述的方法，其中，在首次利用编码生成器在搜索空间中采样语义理解框架结构之前，还包括：

根据所述搜索空间，初始化所述编码生成器，以使所述编码生成器能够生成与所述搜索空间中的语义理解框架结构对应的采样编码。

5.根据权利要求4所述的方法，其中，所述利用编码生成器在搜索空间中采样语义理解框架结构，包括：

利用编码生成器，生成采样编码；

对所述采样编码进行解码，得到所述采样编码对应的语义理解框架结构。

6.根据权利要求1至3中任一项所述的方法，其中，所述搜索空间中的语义理解框架结构为知识增强语义表示ERNIE模型的结构。

7.根据权利要求1至3中任一项所述的方法，还包括：

获取待识别文本；

根据所述目标结构，得到所述待识别文本的识别结果。

8.一种语义理解框架结构的搜索装置，包括：

采样模块，用于利用编码生成器在搜索空间中采样语义理解框架结构；其中，所述搜索空间包括至少两个语义理解框架结构，所述搜索空间是预先从多个符合终端设备部署要求的语义理解框架结构中筛选出来的；

训练模块，用于对采样得到的语义理解框架结构进行训练，得到所述语义理解框架结构的性能信息；

更新模块，用于根据所述性能信息更新所述编码生成器，返回利用编码生成器在搜索空间中采样语义理解框架结构的步骤，直至采样语义理解框架结构的次数达到预设阈值N；其中，N为大于或等于2的整数；

确定模块，用于将第N次采样得到的语义理解框架结构确定为目标结构。

9.根据权利要求8所述的装置，还包括：

遍历模块，用于遍历框架结构参数，以得到至少两个采用框架结构参数表征的语义理解框架结构；

搜索空间构建模块，用于基于所述至少两个语义理解框架结构，得到所述搜索空间。

10.根据权利要求9所述的装置，其中，所述框架结构参数包括Transformer模型的堆叠次数、Transformer模型中隐层单元的个数、堆叠的各Transformer模型之间的残差参数。

11.根据权利要求8至10中任一项所述的装置，还包括：

初始化模块，用于根据所述搜索空间，初始化所述编码生成器，以使所述编码生成器能够生成与所述搜索空间中的语义理解框架结构对应的采样编码。