[发明专利]一种基于深度学习的机器翻译设计方法

权利要求书

1.一种基于深度学习的机器翻译设计方法，利用Django服务载体作为实现平台，其特征在于：该方法包括数据预处理，数据预训练以及数据微调；

步骤1，所述的数据预处理，是根据不同语言选择不同分词器对输入语料数据进行分词，并对分词后语料数据使用bpe分词方法将语料拆分为词元，对输入语料添加语言标记符，用于在混合语料中区分多种语言，使用RAS随机替换，将部分单词替换为其他语言的同义词；

步骤2，所述的数据预训练，是对经过数据预处理的多种语言的语料数据进行预训练，将语料数据置入Transformer网络结构，通过编码-解码的方式进行训练，获得预训练模型；

步骤3，所述的数据微调，是对预训练模型的效果进行微调，使用经过数据预处理的源语言与目标语言数据进行训练，得到微调模型，模型承担指定语言对、指定领域的翻译任务；

通过以上的步骤，实现深度学习模型的构建及对不同语言对的翻译模型的快速迭代。

2.根据权利要求1所述的一种基于深度学习的机器翻译设计方法，其特征在于：步骤2中所述的Transformer网络结构为十二个Transformer_Big结构，由十二个Block堆叠而成的编码器和解码器构成。

3.根据权利要求1所述的一种基于深度学习的机器翻译设计方法，其特征在于：步骤2中所述的Transformer网络结构引入Self-Attention机制建立Block之间的联系，采用一次性输入序列进行计算的设计模式，批量对多个输入进行计算。

4.根据权利要求1所述的一种基于深度学习的机器翻译设计方法，其特征在于：步骤3中所述的模型效果进行微调，是输入源语言与目标语言数据，在预训练基础上对模型效果进行微调，即首先使用大量的算力以及大量的多语种平行语料预先训练一个基础模型，然后以基础模型为出发点，通过少量单语，或者双语的语料对其进行微调，从而演化出适应于特定语言对的机器翻译模型。