[发明专利]预训练模型中注意力矩阵的更新方法、装置及电子设备

权利要求书

1.一种预训练模型中注意力矩阵的更新方法，包括：

基于待掩码的第一注意力矩阵在预训练模型中的第一层数，生成第一掩码矩阵及第二掩码矩阵；

分别基于所述第一掩码矩阵及所述第二掩码矩阵，对所述第一注意力矩阵进行掩码，获取掩码后的第一模型及第二模型；

将当前任务对应的样本数据分别输入所述第一模型及所述第二模型，以获取所述第一掩码矩阵对应的第一奖励值及所述第二掩码矩阵对应的第二奖励值；

根据所述第一奖励值、所述第二奖励值、所述第一掩码矩阵、所述第二掩码矩阵及所述第一层数，生成第三掩码矩阵；

基于所述第三掩码矩阵，返回执行所述获取掩码后的模型的操作，直至获取第一注意力矩阵在所述样本数据下的目标掩码矩阵。

2.如权利要求1所述的方法，其中，所述基于待掩码的第一注意力矩阵在预训练模型中的第一层数，生成第一掩码矩阵及第二掩码矩阵，包括：

基于所述第一注意力矩阵在预训练模型中的第一层数及所述预训练模型的结构，确定掩码矩阵的规模；

基于所述掩码矩阵的规模，生成所述第一掩码矩阵及所述第二掩码矩阵。

3.如权利要求1所述的方法，其中，所述根据所述第一奖励值、所述第二奖励值、所述第一掩码矩阵、所述第二掩码矩阵及所述第一层数，生成第三掩码矩阵，包括：

根据所述第二掩码矩阵与所述第一掩码矩阵中各对应元素间的差值，确定掩码矩阵中每个元素对应的第一更新方向；

根据所述第二奖励值与所述第一奖励值间的差值，确定所述第一更新方向的奖励值；

根据所述第一更新方向的奖励值，从所述第一掩码矩阵及所述第二掩码矩阵中确定出参考掩码矩阵及第二更新方向；

基于所述参考掩码矩阵、所述第二更新方向及所述第一层数，生成所述第三掩码矩阵。

4.如权利要求1所述的方法，其中，所述基于所述第三掩码矩阵，返回执行所述获取掩码后的模型的操作，直至获取第一注意力矩阵在所述样本数据下的目标掩码矩阵，包括：

在第n掩码矩阵对应的第n奖励值与相邻的前L个奖励值间的差值小于第一阈值的情况，确定第n-L掩码矩阵为所述第一注意力矩阵在所述样本数据下的目标掩码矩阵，其中,n为正整数，L为小于n的正整数。

5.如权利要求1-4任一所述的方法，其中，在所述基于所述第三掩码矩阵，返回执行所述获取掩码后的模型的操作，直至获取第一注意力矩阵在所述样本数据下的目标掩码矩阵之后，还包括：

基于所述目标掩码矩阵，对所述第一注意力矩阵进行掩码，获取掩码后的第一目标模型；

将所述当前任务对应的校验数据，输入所述第一目标模型，以获取所述校验数据对应的第一输出结果；

在所述第一输出结果与所述校验数据对应的标注结果间的第一匹配度小于第二阈值的情况下，确定所述第一目标模型中待掩码的第二注意力矩阵；

基于所述第二注意力矩阵在所述第一目标模型中的第二层数，返回执行上述生成第一掩码矩阵及第二掩码矩阵的操作，直至确定所述第二注意力矩阵在所述样本数据下的目标掩码矩阵。

6.如权利要求5所述的方法，其中，所述确定所述第一目标模型中待掩码的第二注意力矩阵，包括：

将所述当前任务对应的校验数据，输入所述预训练模型，以获取所述校验数据对应的第二输出结果；

确定所述第二输出结果与所述标注结果间的第二匹配度；

根据所述第二匹配度与所述第一匹配度间的差值，确定所述第二注意力矩阵与所述第一注意力矩阵在所述第一目标模型中的相对位置；

基于所述相对位置及所述第一层数，确定所述第二注意力矩阵在所述第一目标模型中的第二层数；

基于所述第二层数，确定所述第二注意力矩阵。