为了账号安全,请及时绑定邮箱和手机立即绑定

Python用for line in read(file,'rb'):处理超大文件时,想用多线程,该如何分配合适的文件偏移?

Python用for line in read(file,'rb'):处理超大文件时,想用多线程,该如何分配合适的文件偏移?

PIPIONE 2019-02-22 13:56:08
文件大概有80个G大小,想用多线程,我知道可以用f.seek()去设置偏移,以达到从不同的位置开始读入的效果可是应该如何给每个线程分配一个合适偏移? with open(r'file.txt', 'rb') as f: for line in f: dosomething(line)
查看完整描述

2 回答

?
白板的微信

TA贡献1883条经验 获得超3个赞

用 mmap 模块,像访问内存一样读写文件。

查看完整回答
反对 回复 2019-03-04
  • 2 回答
  • 0 关注
  • 3621 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信