[发明专利]一种可跨语料库可跨算法的生成式文本隐写分析方法

权利要求书

1.一种可跨语料库可跨算法的生成式文本隐写分析方法，所述方法包括：

将文本片段输入预先建立和训练好的的文本隐写检测模型，实现对自然文本与隐写文本的判别；

所述文本隐写检测模型包括依次连接的词重要性语义编码模块、词间关联多尺度感知模块和岭回归分类模型；其中，

所述词重要性语义编码模块，用于提取文本片段的语义特征；

所述词间关联多尺度感知模块，用于从语义特征中获取词间关联特征；

所述岭回归分类模型，用于根据词间关联特征实现对自然文本与隐写文本的判别。

2.根据权利要求1所述的可跨语料库可跨算法的生成式文本隐写分析方法，其特征在于，所述词重要性语义编码模块包括预训练语言表示模型RoBERTa和词重要度挖掘结构；其中，

所述预训练语言表示模型RoBERTa包括词嵌入层和堆叠的12层Transformer；

所述词重要度挖掘结构包括平均池化、最大池化与卷积核大小为2*1的卷积层。

3.根据权利要求2所述的可跨语料库可跨算法的生成式文本隐写分析方法，其特征在于，所述预训练语言表示模型RoBERTa的处理过程具体包括：

对于输入文本片段T＝{t₁，t₂，...t_j，...，t_len}，其中len代表句子长度，t_j代表第j个单词，词嵌入层将T中单词转换为词向量，并引入段向量与位置向量得到输入矩阵E＝{e₁，e₂，...，e_k，...，e_len}，其中，e_j代表第j个单词的嵌入向量，E通过12层Transformer后得到文本词嵌入表示P＝{p₁，p₂，...，p_j，...，p_len}，其中，p_j∈[1，L_WE]是第j个单词的词嵌入表示，L_WE为词嵌入长度。

4.根据权利要求3所述的可跨语料库可跨算法的生成式文本隐写分析方法，其特征在于，所述词重要度挖掘结构的处理过程具体包括：

由平均池化与最大池化来从不同视角获取文本词嵌入表示P中的文本信息，将二者拼接起来得到双角度文本信息C，由卷积核对双角度文本信息C进行信息融合，得到词级别重要度信息G，通过sigmoid激活函数得到表示词重要度的权重系数G，并利用其对词嵌入表示进行更新，找出对隐写敏感单词的语义特征V，计算公式如下：

C＝[MaxPool(P)，AvgPool(P)]

V＝P⊙G

其中，MaxPool与MaxPool分别为最大池化与平均池化操作，Conv_f为核大小为(2，1)的卷积层，V∈[len，L_SF]，L_SF为词语义特征长度，⊙表示矩阵逐点相乘。