Python如何读取大文件?

发布时间:2024年01月17日



Python提供了多种方法用来读取文件,例如,使用Python的标准文件读取流程,即使用open()函数打开一个文件,然后使用readline()readlines()方法逐行读取文件内容

但是,如果文件过大,这种方式可能会导致内存不足的问题,因为它需要将整个文件读入内存中

如果需要处理大文件,可以使用open()函数先打开文件,然后使用read()方法并指定块大小读取文件,这样就可以有效的避免内存不足的问题

以下是一个示例:

def chunked_file_reader(fp, block=1024*2):
    while True:
        chunked = fp.read(block)
        if not chunked:
            break
        yield chunked

def chunked_processor(file, block=1024*2):
    with open(file, 'r', encoding='utf-8') as fp:
        for chunked in chunked_file_reader(fp, block):
            # 处理块文件
            ...


文章来源:https://blog.csdn.net/weixin_55629186/article/details/135662510
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。