[发明专利]一种基于结构化用户属性描述的个性化任务型对话系统

权利要求书

1.一种基于结构化用户属性描述的个性化任务型对话系统，其特征在于，主要包括用户个性动态编码和个性化匹配两个模块：

S1.用户个性动态编码模块，将输入的结构化用户属性描述编码为一个特征向量，在编码的过程中，用户个性动态编码模块使用对话的上下文来自动选择用户结构化用户属性描述中最重要和相关的属性，然后再结合一个分布式的静态全局个性编码，最终得到一个多粒度的内容相关的用户个性编码，即用户个性动态编码分为两部分：细粒度的对话上下文相关的动态编码和粗粒度的全局静态个性编码：

S1.1.细粒度的对话上下文相关的动态编码，其特征在于，通过一个双向长短记忆网络(BiLSTM)来编码对话历史，取最后时刻的隐层状态q作为对话上下文表征，在不同的上下文中，用户个性中的不同属性会发挥不同的作用，通过对话上下文表征自适应地捕获用户个性中最重要的属性，获得细粒度的动态用户个性编码，具体来说，使用对话上下文表征q对所有的属性做注意力计算，获得用户动态个性表征p_dynamic：

α_i＝q^T·e(k_i),i＝1,2,…,n

S1.2.粗粒度的全局静态个性编码的特征在于，首先分别对用户个性描述中的所有属性分别进行one-hot编码(01编码)，然后乘以一个用户个性编码矩阵，就得到粗粒度的全局静态个性编码，将细粒度的对话上下文相关的动态编码和粗粒度的全局静态个性编码拼接起来，最终得到一个多粒度的、对话上下文相关的用户个性编码:

p＝Concat([p_dynamic；p_static])

S2.个性化匹配模块，融合用户个性编码和对话内容，来从候选回复集中选择最合适贴切的对话回复，个性化匹配模块主要包括输入编码层、局部匹配层、聚合层以及输出层：

S2.1.输入编码层，将对话和候选答复中的每一个词转化为词向量，然后再经过一个BiLSTM层获取上下文依赖关系，得到隐层状态表示和其中i,j分别代表对话上下文中的第i个词，对话回复中的第j个词，

S2.2.局部匹配层，获取对话上下文和回复之间的语义交互信息，采用交叉注意力的方式，使用内积计算注意力分数：

然后分别加权求和：

最后将匹配信息融合，通过一个前馈网络计算：

S2.3.聚合层，负责融合用户个性编码与匹配交互信息，通过以下方式实现：

这里的BiLSTM与传统的不同，融合了用户个性编码的信息：

c_t＝f_t·c_t-1+i_t·l_t

h_t＝o_t·tanh(c_t)

S2.4.输出层，将BiLSTM的隐层状态通过池化层输出固定维度的向量，然后再通过一个多层感知器(MLP)输出预测概率，预测结果为0或者1。

2.根据权利要求1所述的系统，其特征在于，用户个性描述为如下形式：{年龄＝中年，性别＝女，饮食偏好＝素食}，每个用户个性描述由很多个属性组成，属性又分为属性键和值，使用e(k_i)和e(v_i)分别代表属性键和属性值的词向量编码。

3.根据权利要求1所述的系统，其特征在于，个性化匹配模块：获得用户个性编码之后，还需要将用户个性编码融合到对话上下文与候选答复的匹配过程中，采用增强自然语言推理模型(ESIM)作为匹配模型，然后在ESIM模型的聚合层中融入用户个性编码向量，同时在ESIM的输出层增加一个与用户实体偏好相关的偏置参数。