[发明专利]基于图像处理与序列标注的学术文献语义再结构化方法

摘要

本发明公开了一种基于图像处理与序列标注的学术文献语义再结构化方法，通过将学术文献进行相关处理转化为图像形式，并对其进行版式分析；利用OCR(Optical Character Recognition光学字符识别)技术对每个符合学术文献逻辑结构的文本区块进行识别，将图像等转换为机器可读的纯文本；利用自然语言处理中的序列标注模型，对处理后的文献内容进行标签序列转换；通过对比版式分析和序列标注的得到的文献逻辑结构结果，进行优化，得到最终的文献逻辑结构。为文献自动添加语义标签，以辅助阅读，将其在一定程度上转化为结构化的内容，提供了学术文献的利用效率。

主权项

1.基于图像处理与序列标注的学术文献语义再结构化方法，其特征在于，包括以下步骤：步骤1：将学术文献转化为图像形式，并对其进行版式分析；首先进行灰度化、二值化、轮廓获取、外轮廓、建立rtree空间索引，再利用空间索引对相互覆盖的文本区块进行融合，最终获得符合学术文献逻辑结构的区块；步骤2：利用图像识别技术和OCR技术对每个符合学术文献逻辑结构的区块进行识别；其中图像识别技术将逻辑区块分类为文本、图像、表格三类，对于识别为图像和表格的区块将以JPG格式保存为图像，对于文本区块采用开源OCR工具Tesseract将图像转换为机器可读的纯文本；步骤3：利用自然语言处理中的序列标注模型，对步骤2中识别出来的区块进行标签序列转换；利用条件随机场模型对步骤2识别出来的文本区块进行序列标注，其具体实现包括以下子步骤：步骤3.1：预处理；主要是对文本格式的数据，进行句子切分、分词、词法分析；步骤3.2：特征抽取，抽取文本块在一篇文章里面的相对位置作为特征P，包括头部，文章主体以及文章结尾；将数字标题以及段落特征作为特征T，通过检测文献的数字开头行判断是否是小标题；标点符号以及特殊符号作为特征M； 文本块的长度作为特征L，每个文本块包含的词的数量；文献中字体的大小作为特征F以及文本块的起始坐标作为特征C；CRF是序列标注问题，所以在特征抽取时会得到一个序列，即对于每一个文本区块标记，它的所有上下文文本块的逻辑结构顺序得到的标记结果构成了一个标记序列S＝(P+T+M+L+F+C)；步骤3.3：对特征抽取得到的特征文件进行处理，得到每一个序列标注的标注结果，然后对标注结果进行查全、查准评价；步骤3.4：利用序列标注的结果对文本区块进行融合，最终获得符合学术文献逻辑结构的文本区块；步骤4：对序列标注得到的文献逻辑结构结果进行优化，得到最终的文献逻辑结构。