当前位置:

首页 > 编程开发 > 怎么通过Python实现批量数据提取

怎么通过Python实现批量数据提取

配置需求1.ImageMagick2.tesseract-OCR3.Python3.74.fromPILimportImageasPI5.importio6.importos7.importpyocr.builders8.fromcnocrimportCnOcr9.importxlwt分析上图发现票据金额为“贰拾万元整”,数据金额为大写中文,因此在导入Excel之前我们需要将金额票据的数据转换成数字的格式,基于此,我们需要首先完成大写汉字和数字的转换。defchineseNumber2Int(strNum

本文目录

    配置需求

    1.ImageMagick  

    2.tesseract-OCR 

    3.Python3.7

    4.from PIL import Image as PI

    5.import io

    6.import os

    7.import pyocr.builders

    8.from cnocr import CnOcr

    9.import xlwt

    怎么通过Python实现批量数据提取

    分析上图发现票据金额为“贰拾万元整”,数据金额为大写中文,因此在导入Excel之前我们需要将金额票据的数据转换成数字的格式,基于此,我们需要首先完成大写汉字和数字的转换。

    def chineseNumber2Int(strNum: str):
        result = 0
        temp = 1  # 存放一个单位的数字如:十万
        count = 0  # 判断是否有chArr
        cnArr = ['壹', '贰', '叁', '肆', '伍', '陆', '柒', '捌', '玖']
        chArr = ['拾', '佰', '仟', '万', '亿']
        for i in range(len(strNum)):
            b = True
            c = strNum[i]
            for j in range(len(cnArr)):
                if c == cnArr[j]:
                    if count != 0:
                        result += temp
                        count = 0
                    temp = j + 1
                    b = False
                    break
            if b:
                for j in range(len(chArr)):
                    if c == chArr[j]:
                        if j == 0:
                            temp *= 10
                        elif j == 1:
                            temp *= 100
                        elif j == 2:
                            temp *= 1000
                        elif j == 3:
                            temp *= 10000
                        elif j == 4:
                            temp *= 100000000
                    count += 1
            if i == len(strNum) - 1:
                result += temp
        return result

    通过上述代码即可实现大写字母与数字的转换,例如输入“贰拾万元整”即可导出“200000”,再将其转换成数字后即可极大地简化表格的操作,也可以在完成表格操作的同时有利于数据归档。

    接下来,我们需要分析发票的内部内容,分析下图可知,我们需要获取以下几个数据内容:“出票日期”、“汇票到账日期”、“票据号码”、“收款人”、“票据金额”、“出票人”,可以通过画图软件获取精准定位。

    怎么通过Python实现批量数据提取

    如图,小黑点即鼠标所在地,画图软件左下角即他的坐标。

    怎么通过Python实现批量数据提取

    提取出票日期

    def text1(new_img):
        #提取出票日期
        left = 80
        top = 143
        right = 162
        bottom = 162
        image_text1 = new_img.crop((left, top, right, bottom))
        #展示图片
        #image_text1.show()
        txt1 = tool.image_to_string(image_text1)
        print(txt1)
        return str(txt1)

    提取金额

    def text2(new_img):
        #提取金额
        left = 224
        top = 355
        right = 585
        bottom = 380
        image_text2 = new_img.crop((left, top, right, bottom))
        #展示图片
        #image_text2.show()
        image_text2.save("img/tmp.png")
        temp = ocr.ocr("img/tmp.png")
        temp="".join(temp[0])
        txt2=chineseNumber2Int(temp)
        print(txt2)
        return txt2

    提取出票人

    def text3(new_img):
        #提取出票人
        left = 177
        top = 207
        right = 506
        bottom = 231
        image_text3 = new_img.crop((left, top, right, bottom))
        #展示图片
        #image_text3.show()
        image_text3.save("img/tmp.png")
        temp = ocr.ocr("img/tmp.png")
        txt3="".join(temp[0])
        print(txt3)
        return txt3

    提取付款行

    def text4(new_img):
        #提取付款行
        left = 177
        top = 274
        right = 492
        bottom = 311
        image_text4 = new_img.crop((left, top, right, bottom))
        #展示图片
        #image_text4.show()
        image_text4.save("img/tmp.png")
        temp = ocr.ocr("img/tmp.png")
        txt4="".join(temp[0])
        print(txt4)
        return txt4

    提取汇票到账日期

    def text5(new_img):
        #提取汇票到日期
        left = 92
        top = 166
        right = 176
        bottom = 184
        image_text5 = new_img.crop((left, top, right, bottom))
        #展示图片
        #image_text5.show()
        txt5 = tool.image_to_string(image_text5)
        print(txt5)
        return txt5

    提取票据单据

    def text6(new_img):
        #提取票据号码
        left = 598
        top = 166
        right = 870
        bottom = 182
        image_text6 = new_img.crop((left, top, right, bottom))
        #展示图片
        #image_text6.show()
        txt6 = tool.image_to_string(image_text6)
        print(txt6)
        return txt6

    在将数据全部提取完成之后,即进入设置环节,我们需要首先将所有账单文件进行提取,获取他们的文件名和路径。

    ocr=CnOcr()
    tool = pyocr.get_available_tools()[0]
    filePath='img'
    img_name=[]
    for i,j,name in os.walk(filePath):
        img_name=name

    在获取完整后,即可进行数据导入Excel的操作。

    count=1
    book = xlwt.Workbook(encoding='utf-8',style_compression=0)
    sheet = book.add_sheet('test',cell_overwrite_ok=True)
    for i in img_name:
        img_url = filePath+"/"+i
        with open(img_url, 'rb') as f:
            a = f.read()
        new_img = PI.open(io.BytesIO(a))
        ## 写入csv
        col = ('年份','出票日期','金额','出票人','付款行全称','汇票到日期','备注')
        for j in range(0,7):
            sheet.write(0,j,col[j])
        book.save('1.csv')
        shijian=text1(new_img)
        sheet.write(count,0,shijian[0:4])
        sheet.write(count,1,shijian[5:])
        sheet.write(count,2,text2(new_img))
        sheet.write(count,3,text3(new_img))
        sheet.write(count,4,text4(new_img))
        sheet.write(count,5,text5(new_img))
        sheet.write(count,6,text6(new_img))
        count = count + 1

    至此,完整流程结束。

    附上源码全部

    from  wand.image import  Image
    from PIL import Image as PI
    import pyocr
    import io
    import re
    import os
    import shutil
    import pyocr.builders
    from cnocr import CnOcr
    import requests
    import xlrd
    import xlwt
    from openpyxl import load_workbook
     
    def chineseNumber2Int(strNum: str):
        result = 0
        temp = 1  # 存放一个单位的数字如:十万
        count = 0  # 判断是否有chArr
        cnArr = ['壹', '贰', '叁', '肆', '伍', '陆', '柒', '捌', '玖']
        chArr = ['拾', '佰', '仟', '万', '亿']
        for i in range(len(strNum)):
            b = True
            c = strNum[i]
            for j in range(len(cnArr)):
                if c == cnArr[j]:
                    if count != 0:
                        result += temp
                        count = 0
                    temp = j + 1
                    b = False
                    break
            if b:
                for j in range(len(chArr)):
                    if c == chArr[j]:
                        if j == 0:
                            temp *= 10
                        elif j == 1:
                            temp *= 100
                        elif j == 2:
                            temp *= 1000
                        elif j == 3:
                            temp *= 10000
                        elif j == 4:
                            temp *= 100000000
                    count += 1
            if i == len(strNum) - 1:
                result += temp
        return result
     
     
    def text1(new_img):
        #提取出票日期
     
        left = 80
        top = 143
        right = 162
        bottom = 162
        image_text1 = new_img.crop((left, top, right, bottom))
        #展示图片
        #image_text1.show()
        txt1 = tool.image_to_string(image_text1)
     
        print(txt1)
        return str(txt1)
    def text2(new_img):
        #提取金额
     
        left = 224
        top = 355
        right = 585
        bottom = 380
        image_text2 = new_img.crop((left, top, right, bottom))
        #展示图片
        #image_text2.show()
        image_text2.save("img/tmp.png")
     
        temp = ocr.ocr("img/tmp.png")
     
        temp="".join(temp[0])
        txt2=chineseNumber2Int(temp)
        print(txt2)
     
        return txt2
     
    def text3(new_img):
        #提取出票人
     
        left = 177
        top = 207
        right = 506
        bottom = 231
        image_text3 = new_img.crop((left, top, right, bottom))
        #展示图片
        #image_text3.show()
        image_text3.save("img/tmp.png")
     
        temp = ocr.ocr("img/tmp.png")
        txt3="".join(temp[0])
     
        print(txt3)
        return txt3
    def text4(new_img):
        #提取付款行
     
        left = 177
        top = 274
        right = 492
        bottom = 311
        image_text4 = new_img.crop((left, top, right, bottom))
        #展示图片
        #image_text4.show()
        image_text4.save("img/tmp.png")
     
        temp = ocr.ocr("img/tmp.png")
        txt4="".join(temp[0])
     
        print(txt4)
        return txt4
    def text5(new_img):
        #提取汇票到日期
     
        left = 92
        top = 166
        right = 176
        bottom = 184
        image_text5 = new_img.crop((left, top, right, bottom))
        #展示图片
        #image_text5.show()
        txt5 = tool.image_to_string(image_text5)
     
        print(txt5)
        return txt5
    def text6(new_img):
        #提取票据号码
     
        left = 598
        top = 166
        right = 870
        bottom = 182
        image_text6 = new_img.crop((left, top, right, bottom))
        #展示图片
        #image_text6.show()
        txt6 = tool.image_to_string(image_text6)
     
        print(txt6)
        return txt6
     
     
     
    ocr=CnOcr()
     
    tool = pyocr.get_available_tools()[0]
     
    filePath='img'
    img_name=[]
    for i,j,name in os.walk(filePath):
        img_name=name
    count=1
     
    book = xlwt.Workbook(encoding='utf-8',style_compression=0)
    sheet = book.add_sheet('test',cell_overwrite_ok=True)
     
    for i in img_name:
        img_url = filePath+"/"+i
        with open(img_url, 'rb') as f:
            a = f.read()
        new_img = PI.open(io.BytesIO(a))
        ## 写入csv
        col = ('年份','出票日期','金额','出票人','付款行全称','汇票到日期','备注')
        for j in range(0,7):
            sheet.write(0,j,col[j])
        book.save('1.csv')
        shijian=text1(new_img)
        sheet.write(count,0,shijian[0:4])
        sheet.write(count,1,shijian[5:])
        sheet.write(count,2,text2(new_img))
        sheet.write(count,3,text3(new_img))
        sheet.write(count,4,text4(new_img))
        sheet.write(count,5,text5(new_img))
        sheet.write(count,6,text6(new_img))
        count = count + 1
    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 Python
    相关文章 更多
    python删除一个列表里的重复元素的方法与代码示例
    python删除一个列表里的重复元素的方法与代码示例

    学习如何使用Python高效删除列表中的重复元素。本文提供5种常见方法的代码示例,涵盖保持顺序与不保持顺序的场景,适合初学者和进阶开发者参考。

    Python写接口的步骤及完整代码示例
    Python写接口的步骤及完整代码示例

    详细讲解使用Python编写Web接口的核心步骤与完整代码示例,涵盖环境准备、路由定义、数据校验、服务启动及调试测试方法。

    codex怎么读取word文档及docx文件操作教程
    codex怎么读取word文档及docx文件操作教程

    介绍如何利用编程工具读取和解析Word文档(docx格式),涵盖基础文本提取代码示例、结构化数据处理逻辑,以及处理复杂排版时的技术局限与替代方案。

    怎么在Python中调用C语言代码提升性能
    怎么在Python中调用C语言代码提升性能

    详细讲解在Python中调用C语言代码提升性能的完整实践指南,包含原理分析、编译步骤、ctypes与CFFI具体实现、性能对比及常见陷阱。

    Python与C语言的性能差异及底层原理
    Python与C语言的性能差异及底层原理

    深入解析Python与C语言在执行效率上的数量级差异,从编译机制、变量内存布局、动态类型推断到GIL锁,系统阐明底层核心原理。

    Python和C语言哪个更适合编程入门
    Python和C语言哪个更适合编程入门

    客观对比Python与C语言在心智负担、底层机制与学习反馈上的核心差异,提供清晰有据的选择标准与切实的入门学习路径。

    selenium上传文件教程本地文件路径设置方法
    selenium上传文件教程本地文件路径设置方法

    深入解析Selenium处理文件上传的技术细节,涵盖标准HTML控件的路径直接注入法与非标准控件的系统级模拟方案,提供Windows与Linux环境下的路径设置最佳实践及常见异常排查。

    大数据开发语言选型:Java对比Scala与Python的优缺点及适用场景
    大数据开发语言选型:Java对比Scala与Python的优缺点及适用场景

    针对大数据工程场景,系统对比Java、Scala与Python在执行性能、生态结合、开发效率和维护成本上的核心差异,给出清晰的架构选型依据与落地方案。

    langgraph python guide中文入门教程详解
    langgraph python guide中文入门教程详解

    本篇LangGraph Python中文入门教程详解,系统梳理StateGraph状态机定义、节点编写、边与条件路由、检查点持久化(MemorySaver)等核心机制,提供从环境安装到完整循环智能体构建的代码示例与实操指导。

    Windows 安装 Python:从官方入口到虚拟环境的可复现实践
    Windows 安装 Python:从官方入口到虚拟环境的可复现实践

    面向后端开发者,基于 Python 官方文档说明如何在 Windows 上安装 Python、创建 venv 虚拟环境及使用 pip 管理依赖。包含可复制命令、验证方法及工具选择边界,避免常见配置误区。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。