今天由于某种原因需要将pdf中的文本提取出来,就去搜了下资料,发现PDFMiner是针对
内容提取的,虽然最后发现pdf里面的文本全都是图片,就没整成功,不过试了个文本可复制的
那种pdf文件,发现还是蛮好用的。
PDFMiner----python的PDF解析器和分析器
1.官方文档:
2.特征
- 完全使用python编写。 (适用于2.4或更新版本)
- 解析,分析,并转换成PDF文档。
- PDF-1.7规范的支持。 (几乎)
- 中日韩语言和垂直书写脚本支持。
- 各种字体类型(Type1、TrueType、Type3,和CID)的支持。
- 基本加密(RC4)的支持。
- PDF与HTML转换。
- 纲要(TOC)的提取。
- 标签内容提取。
- 通过分组文本块重建原始的布局。
3.安装
注:使用源码安装,并且处理中日韩语言的时候还需要一个额外的安装步骤
4.用法
4.1解析pdf文件用到的类:
- PDFParser:从一个文件中获取数据
- PDFDocument:保存获取的数据,和PDFParser是相互关联的
- PDFPageInterpreter处理页面内容
- PDFDevice将其翻译成你需要的格式
- PDFResourceManager用于存储共享资源,如字体或图像。
PDFMiner的类之间的关系图:
4.2基本用法
4.2.1解析pdf文件
1 from pdfminer.pdfparser import PDFParser 2 from pdfminer.pdfdocument import PDFDocument 3 from pdfminer.pdfpage import PDFPage 4 from pdfminer.pdfpage import PDFTextExtractionNotAllowed 5 from pdfminer.pdfinterp import PDFResourceManager 6 from pdfminer.pdfinterp import PDFPageInterpreter 7 from pdfminer.pdfdevice import PDFDevice 8 9 10 fp = open('mypdf.pdf', 'rb')11 #创建一个PDF文档解析器对象12 parser = PDFParser(fp)13 #创建一个PDF文档对象存储文档结构14 #提供密码初始化,没有就不用传该参数15 document = PDFDocument(parser, password)16 #检查文件是否允许文本提取17 if not document.is_extractable:18 raise PDFTextExtractionNotAllowed19 #创建一个PDF资源管理器对象来存储共享资源20 rsrcmgr = PDFResourceManager()21 #创建一个pdf设备对象22 device = PDFDevice(rsrcmgr)23 #创建一个PDF解析器对象24 interpreter = PDFPageInterpreter(rsrcmgr, device)25 #处理文档当中的每个页面26 for page in PDFPage.create_pages(document):27 interpreter.process_page(page)
当然这只是进行解析,还可进行布局分析,我的数据就是从这一步的到的
4.2.2布局分析
首先对第一步的代码进行修改和增加
1 from pdfminer.layout import LAParams 2 from pdfminer.converter import PDFPageAggregator 3 4 # 设定参数进行分析 5 laparams = LAParams() 6 # 创建一个PDF页面聚合对象 7 device = PDFPageAggregator(rsrcmgr, laparams=laparams) 8 interpreter = PDFPageInterpreter(rsrcmgr, device) 9 for page in PDFPage.create_pages(document):10 interpreter.process_page(page)11 # 接收该页面的LTPage对象12 layout = device.get_result()
布局分析返回的PDF文档中的每个页面LTPage对象。这个对象和页内包含的子对象,形成一个树结构
如图所示:
- LTPage :表示整个页。可能会含有LTTextBox,LTFigure,LTImage,LTRect,LTCurve和LTLine子对象。
- LTTextBox:表示一组文本块可能包含在一个矩形区域。注意此box是由几何分析中创建,并且不一定表示该文本的一个逻辑边界。它包含LTTextLine对象的列表。使用 get_text()方法返回的文本内容。
- LTTextLine :包含表示单个文本行LTChar对象的列表。字符对齐要么水平或垂直,取决于文本的写入模式。 get_text()方法返回的文本内容。
- LTChar
- LTAnno:在文本中实际的字母表示为Unicode字符串(?)。需要注意的是,虽然一个LTChar对象具有实际边界,LTAnno对象没有,因为这些是“虚拟”的字符,根据两个字符间的关系(例如,一个空格)由布局分析后插入。
- LTImage:表示一个图像对象。嵌入式图像可以是JPEG或其它格式,但是目前PDFMiner没有放置太多精力在图形对象。
- LTLine:代表一条直线。可用于分离文本或附图。
- LTRect:表示矩形。可用于框架的另一图片或数字。
LTCurve:表示一个通用的
Bezier曲线
4.2.3获得目录(纲要)
1 from pdfminer.pdfparser import PDFParser 2 from pdfminer.pdfdocument import PDFDocument 3 4 # Open a PDF document. 5 fp = open('mypdf.pdf', 'rb') 6 parser = PDFParser(fp) 7 document = PDFDocument(parser, password) 8 9 # Get the outlines of the document.10 outlines = document.get_outlines()11 for (level,title,dest,a,se) in outlines:12 print (level, title)
5.个人使用
1 # -*- coding: utf-8 -*- 2 from pdfminer.pdfparser import PDFParser 3 from pdfminer.pdfdocument import PDFDocument 4 from pdfminer.pdfpage import PDFPage 5 from pdfminer.pdfpage import PDFTextExtractionNotAllowed 6 from pdfminer.pdfinterp import PDFResourceManager 7 from pdfminer.pdfinterp import PDFPageInterpreter 8 from pdfminer.pdfdevice import PDFDevice 9 from pdfminer.layout import *10 from pdfminer.converter import PDFPageAggregator11 import os12 os.chdir(r'F:\test')13 fp = open('python.pdf', 'rb')14 #来创建一个pdf文档分析器15 parser = PDFParser(fp) 16 #创建一个PDF文档对象存储文档结构17 document = PDFDocument(parser)18 # 检查文件是否允许文本提取19 if not document.is_extractable:20 raise PDFTextExtractionNotAllowed21 else:22 # 创建一个PDF资源管理器对象来存储共赏资源23 rsrcmgr=PDFResourceManager()24 # 设定参数进行分析25 laparams=LAParams()26 # 创建一个PDF设备对象27 # device=PDFDevice(rsrcmgr)28 device=PDFPageAggregator(rsrcmgr,laparams=laparams)29 # 创建一个PDF解释器对象30 interpreter=PDFPageInterpreter(rsrcmgr,device)31 # 处理每一页32 for page in PDFPage.create_pages(document):33 interpreter.process_page(page)34 # 接受该页面的LTPage对象35 layout=device.get_result()36 for x in layout:37 if(isinstance(x,LTTextBoxHorizontal)):38 with open('a.txt','a') as f:39 f.write(x.get_text().encode('utf-8')+'\n')
将书中的文本内容得到了,只是简单的使用,官方文档中讲解的很全面,在此只是做个小总结。
注:转载请注明出处