[发明专利]个性化自然语言理解的装置和方法

权利要求书

1.一种训练机器学习模型的方法，所述方法包括：

对模型的分类层进行训练，包括：

由所述分类层从话语编码器层接收一个或更多个语言情景；以及

由所述分类层将话语的至少一部分分类为多个信息类型中的一个信息类型。

2.根据权利要求1所述的方法，其中，将所述话语的至少一部分分类包括：将所述一个或更多个语言情景中的至少一个语言情景应用于在一个或更多个时间戳处的隐藏状态的加权总和。

3.根据权利要求1所述的方法，所述方法进一步包括：

对所述模型的槽位填充层和意图检测层进行联合训练，包括：

由所述槽位填充层从所述话语编码器层接收所述一个或更多个语言情景，并且从所述分类层接收所述话语的已分类的至少一部分；以及

基于所述一个或更多个语言情景以及所述话语的已分类的至少一部分，由所述槽位填充层填充一个或更多个槽位。

4.根据权利要求3所述的方法，所述方法进一步包括：由所述意图检测层基于所述一个或更多个语言情景以及所述话语的已分类的至少一部分来确定意图。

5.根据权利要求3所述的方法，其中，对所述槽位填充层和所述意图检测层进行联合训练进一步包括：

由所述槽位填充层获取外部知识参数；

基于所述外部知识参数确定至少一个测量度量；以及

由所述槽位填充层对所述至少一个测量度量、所述话语的已分类的至少一部分以及所述一个或更多个语言情景中的至少一项进行加权，以确定槽位类型。

6.根据权利要求5所述的方法，其中，所述外部知识参数是用户偏好数据；

其中，所述至少一个测量度量是使用频率度量；并且

其中，确定所述至少一个测量度量包括：基于所述用户偏好数据和所述话语的所述至少一部分来计算所述使用频率度量。

7.一种用于自然语言理解的方法，所述方法包括：

由分类层利用来自话语编码器层的一个或更多个语言情景将话语的至少一部分分类为多个信息类型中的一个信息类型；

由槽位填充层从所述话语编码器层接收所述一个或更多个语言情景，并且从所述分类层接收所述话语的已分类的至少一部分；以及

基于所述一个或更多个语言情景以及所述话语的已分类的至少一部分，由所述槽位填充层填充一个或更多个槽位。

8.根据权利要求7所述的方法，其中，将所述话语的至少一部分分类包括：将所述一个或更多个语言情景中的至少一个语言情景应用于在一个或更多个时间戳处的隐藏状态的加权总和。

9.根据权利要求7所述的方法，所述方法进一步包括：由意图检测层基于一个或更多个语言情景以及所述话语的已分类的至少一部分来确定意图。

10.根据权利要求7所述的方法，所述方法进一步包括：

由所述槽位填充层获取外部知识参数；

基于所述外部知识参数确定至少一个测量度量；以及

由所述槽位填充层对所述至少一个测量度量、所述话语的已分类的至少一部分以及所述一个或更多个语言情景中的至少一项进行加权，以确定槽位类型。

11.根据权利要求10所述的方法，其中，所述外部知识参数是用户偏好数据；

其中，所述至少一个测量度量是使用频率度量；并且

其中，确定所述至少一个测量度量包括：基于所述用户偏好数据和所述话语的所述至少一部分来计算所述使用频率度量。

12.根据权利要求5所述的方法，或者根据权利要求10所述的方法，其中，所述至少一个测量度量是通过在时间戳处的信息类型向量和所述外部知识参数的函数来确定的。