[发明专利]一种基于半监督学习和元学习的少样本NL2SQL方法

权利要求书

1.一种基于半监督学习和元学习的少样本NL2SQL方法，其特征在于，该方法包括以下步骤：

步骤1)构建NL2SQL模型，并进行参数初始化；

步骤2)利用标注数据进行热启动训练，直至准确率达到阈值；

步骤3)利用自学习框架对NL2SQL模型参数进行多轮训练和更新，直至模型参数收敛。

2.根据权利要求1所述的基于半监督学习和元学习的少样本NL2SQL方法，其特征在于，步骤3)

其中每一轮自训练过程包括：

步骤3.1)使用模型为大量无标签数据预测伪标签以及置信度，作为伪标签数据集；

步骤3.2)从标签数据集和伪标签数据集的混合数据中采样任务集合，并使用基于列特异性的元学习算法对模型进行训练和参数更新；

步骤3.3)对伪标签数据按照一定比例进行随机采样，得到的采样数据与标签数据混合，采用批训练策略将混合数据分为等大的batch依次对模型进行训练和参数更新。

3.根据权利要求1所述的基于半监督学习和元学习的少样本NL2SQL方法，其特征在于，步骤1)构建NL2SQL模型，具体如下，

步骤(1-1)：将自然语言问句Q进行分词，得到Q＝{x₁,x₂,...,x_n}，其中x表示每个词，同时获取到Q所对应的目标表格T＝{H¹,H²,...,H^m}，而H_i＝(h_i,C_i)，其中H_i表示第i个列，h_i表示其列名，C_i表示其包含的多个值，同时对于每个Hⁱ识别它的类型t_i，它分为文本类型，日期类型和数字类型(Date，Text，Number)；

步骤(1-2)：在每个列Hⁱ下，其中表示C_i下第j行的值，在输入到编码器前，每个首先会分词后与Q的单词进行滑窗式文本相似度匹配，在滑窗过程中的最高一次匹配得分作为每个的分数，取得分最高的前k作为剩下的集合

步骤(1-3)：将分词后的自然语言问句Q和其对应表格T中的每个列Hⁱ的信息依次输入到模型的编码器RoBERTa中，具体来说H_i的信息包含(t_i,h_i,C'_i)，在同样进行分词后与Q的分词结果一起输入到编码器中，

步骤(1-4)：利用步骤(1-3)得到的向量表示来进行六个子任务的预测，这六个子任务分别是：SELECT部分的选列预测(SC)，SELECT部分的聚合函数预测(SA)，WHERE 部分条件个数的预测(WN),WHERE部分每个条件的列(WC)，操作符(WO)和值(WV)，

步骤(1-5)：综合每一组(Q,Hⁱ)的预测结果，基于Q和查询目标表格T来最终预测完整的SQL结果，首先对于SC，直接取P_SC得分最高的列作为结果；其次综合每个列对WN的预测，并利用关联度得分作为权重来进行带权相加，最终取概率分布中得分最高的数量作为WN的结果，记作n'：

之后取前n'个P_WC得分最高的列作为WC的结果；与此同时，对于SC的列，取该列所预测的聚合函数中概率最大者作为SA的结果；对于WC的列，取这些列各自所预测的操作符和值区间的概率最大者作为各自所在的条件中的操作符和值，即WO和WV的结果；由此结合预定义的SQL骨架，用子任务的结果进行填充最终形成完整的SQL：

SELECT{SA}{SC}WHERE({WC}{WO}{WV})*，

其中，{}表示一个待填充的槽位，*表示括号中的部分可能出现0次或多次，由此最终的SQL预测完成。