[发明专利]从文本文档进行数据驱动的结构提取

说明书

公开了用于从文本文档中提取结构化内容作为图表的方法和装置。图表的顶点和边与文档标记以及标记之间的成对关系对应。支持无向的对等关系和有向的关系(例如键值或组成)。可以使用预定义的字段来标识顶点，然后将其映射到数据库列以在数据库中自动存储文档内容。经训练的神经网络分类器确定输入标记的所有成对组合的关系分类。关系分类可以区分多种关系类型。多级分类器从文档中提取多级图表结构。公开的实施例支持具有层次和平面关系的任意图表结构。关系不受空间邻近性或文档布局的限制。可以标识复合标记以及其他内容。根据单个标记的各种关系，它可以属于多个更高层级的结构。公开了示例和变型。

技术领域

背景技术

人类的各种各样的事业都依赖于文档。随着年度的流逝，数据库规模不断扩大，并继续渗透到新的应用中。数据库技术的许多方面都伴随着这种发展而有所改进，但是将文档内容(非结构化)捕获到数据库(结构化)中的基本问题仍然是一个挑战。光学识别有助于将人类可读文档转换为机器可读形式，但并不寻求识别或组织文档文本的内容。在某些领域，例如在标准化的测试答题纸、银行支票或纳税申报单中，将人类可读的文档强制为标准格式，以便可以将机器可读的字符准确地分配给预定义的文档字段。在其他应用中，常规技术可以解决简单的任务，例如解析单个句子的语法或识别单个固定文档格式的字段。但是，根据文档提供者，随着时间的流逝或由于其他因素，单个类别的文档的格式可能会有很大差异。另外，常规技术可能难以识别最简单表之外的结构，或者难以管理单个标记(token)可能与对等标记或较大实体具有多种关系的情况。因此，利用常规技术，即使是简单的问题也可能需要大量的人工来进行数据输入，或者可能需要针对每种不同的文档样式进行自定义的自动化。因此，仍然需要用于从文档可靠、灵活、自动地提取结构化内容的改进技术。

发明内容

总而言之，详细描述针对用于确定文本文档中的结构的各种创新技术。在示例中，可以训练神经网络以评估文档中标记的所有成对组合的相应关系状态。向神经网络的输入可以是表示文本文档的各个标记的向量序列。来自神经网络的输出可以是标记的向量的相应序列，第i向量的第j个分量指示第i标记和第j标记之间的关系状态。可以使用多层神经网络在层级结构中构建文档结构。从文档中提取的结构可用于将输入文档的标记映射到数据库的列，从而允许将非结构化文档内容自动转换为数据库中的结构化表示形式。

在某些示例中，所公开的技术可以被实现为存储指令的计算机可读介质，该指令在由一个或多个硬件处理器执行时使硬件处理器执行以下动作。在训练时，针对相应的文本文档获得了多个训练记录。每个训练记录都具有一个或多个输入特征，这些输入特征表示相应文本文档的非结构化内容，并且训练标签是一个或多个训练图。训练图描述了各个文本文档的非结构化内容之间的关系。根据训练记录对机器学习分类器进行训练。在运行时，获得表示输入文档的非结构化内容的记录。该记录被输入到经训练的机器学习分类器，以确定输入文档的结构图表。给定层级的经训练的机器学习分类器具有表示输入文档的N个标记的输入和表示N·(N-1)/2个N标记的成对组合的输出。一个或多个输出定义结构图表的相应边。

在一些示例中，获得输入文档记录可以包括通过将输入文档中的至少一个字段识别为命名实体并将输入文档中识别的字段替换为输入实体，来预处理输入文档的原始形式。命名实体。获得输入文档记录可以包括用位置编码信息标记该记录。结构图表的边可以包括指示第一对标记之间的键值关系的第一有向边，以及指示第二对标记之间的对等关系的第二无向边。结构图表的边可以包括三个或更多个形成循环的无向边。