位置: 编程技术 - 正文

利用Python读取文件的四种不同方法比对(利用python读取文件)

编辑:rootadmin

推荐整理分享利用Python读取文件的四种不同方法比对(利用python读取文件),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python读取文件的操作方法,python如何读取文件中的数据,python读取文本文件的方法,python读取文本文件的方法,python读取文本文件的方法,python读取文件的操作方法,利用python读取文件,利用python读取文件,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

大家都知道Python 读文件的方式多种多样,但是当需要读取一个大文件的时候,不同的读取方式会有不一样的效果。下面就来看看详细的介绍吧。

场景

逐行读取一个 2.9G 的大文件

CPU i7 HQ RAM G

方法

对每一行的读取进行一次分割字符串操作

以下方法都使用 with…as 方法打开文件。

with 语句适用于对资源进行访问的场合,确保不管使用过程中是否发生异常都会执行必要的“清理”操作,释放资源,比如文件使用后自动关闭、线程中锁的自动获取和释放等。

方法一 最通用的读文件方式

运行结果: 耗时 . 秒

利用Python读取文件的四种不同方法比对(利用python读取文件)

系统监视器中显示内存从 4.8G 一下子飙到了 8.4G, fh.readlines() 将读取的所有行数据存到内存,这种方法适合小文件。

方法二

运行结果: 耗时 . 秒

内存几乎没有变化,因为内存中只存取一行的数据,但是时间明显比上一次的长,对于进一步处理数据来说效率不高。

方法三

运行结果: 耗时 . 秒

内存几乎没有变化,速度也比方法二快。

for line in fh 将文件对象 fh 视为可迭代的,它自动使用缓冲的 IO 和内存管理,因此您不必担心大文件。这是很 pythonic 的方式!

方法四 fileinput 模块

运行结果: 耗时 . 秒

内存增加了 - MB,速度是以上最慢的。

总结

以上方法仅供参考,公认的大文件读取方法还是三最好。但是具体情况还是要根据机器的性能、处理数据的复杂度。

好了,

标签: 利用python读取文件

本文链接地址:https://www.jiuchutong.com/biancheng/375492.html 转载请保留说明!

上一篇:Python爬虫实现网页信息抓取功能示例【URL与正则模块】(python3网络爬虫)

下一篇:利用python微信库itchat实现微信自动回复功能(python appium 微信)

  • 建筑企业简易计税和一般计税分开核算
  • 在外地预缴的印花税如何扣除
  • 国家重大水利工程建设基金计算方法
  • 国债利息收入计入财务费用吗
  • 其他应付款二级科目明细
  • 运输服务有3%的税率吗
  • 使用权资产计入资产负债表哪个科目
  • 自产产品用于职工福利确认收入吗
  • 影响固定资产折旧的基本因素
  • 公司拓展训练入什么会计科目核算做分录?
  • 个人出租住房缴纳个税可以扣除房产税吗
  • 商品进销差价是资产类账户,其抵减的账户是
  • 服务业的地税是什么税
  • 合伙企业需要交企业所得税吗?
  • 住宿费可以抵扣吗?
  • 餐饮发票一千多钱税
  • 出口退税综合服务平台电话
  • 劳务派遣企业如何认定
  • 个税返还手续费增值税申报填在哪里
  • 营改增后哪些费用可以抵扣
  • 电商平台收取的手续费
  • 税务发票原件
  • 增值税小规模纳税人减免增值税政策
  • 成本的分类有哪些如何分类
  • 计提的跌价准备销售时怎么处理
  • 银行承兑汇票的转让一般通过什么渠道
  • 小规模购进商品只收到记账联专票
  • 高新技术企业研究开发费用加计扣除
  • awk命令怎么用
  • php ftp功能
  • php开发实战权威指南
  • php调用ffmpeg实现切片
  • css垂直导航栏
  • 日本蜡烛图形
  • inature前沿
  • 红冲上年度收入怎么做凭证
  • lvs命令详解
  • vuejs echarts
  • 汇算清缴有问题怎么办
  • 任何单位和个人发现洗钱活动有权向什么举报
  • 研发费用资本化可以加计扣除吗
  • 税务清算后还需要报税吗
  • 失控票要在抵扣当月转出吗
  • 企业代扣代缴个人所得税申报流程图
  • access怎么提取数据
  • 劳务派遣人员代招聘多少钱一个人
  • 矿场维护
  • 未支付怎么取消
  • 收到供应商的赔偿款要开票吗
  • 装修费摊销会计准则
  • 招标公司的成本控制
  • 高新技术企业政府补助要交所得税吗
  • 从公司账户转给他人私户1万元以内需要扣多钱的税
  • 票据贴现的分录
  • 无形资产的费用化支出计入成本吗
  • 注册工贸公司要多少资金
  • 固定资产处置款怎么入账
  • 劳务报酬个税如何入账
  • 项目估算主要包括
  • 支付宝扣手续费是怎么回事
  • 没有期初数据会怎么样
  • windows 开始
  • win8系统怎么更改系统语言
  • linuxcut命令详解
  • win8怎么安装不了win10
  • win7系统关机没反应
  • win10系统升级后共享打印机不能用
  • 炉石传说代码怎么导入
  • unity3d教学视频
  • js实现分页数据库数据
  • android设计模式的应用场景
  • 范冰冰魔范学院杂志可爱公主风
  • NGUI学习笔记汇总
  • js判断路径下图片是否存在
  • python如何发送http请求
  • js数组entries
  • Python3使用requests发闪存的方法
  • 国家税务总局关于进一步优化营改增纳税服务工作的通知
  • 税务检查的程序
  • 银行是不是要交社保
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设