如何在Python中读取文件的每一行并将每一行作为元素存储在列表中?
我想逐行读取文件并将每行追加到列表的末尾。
如何在Python中读取文件的每一行并将每一行作为元素存储在列表中?
我想逐行读取文件并将每行追加到列表的末尾。
Answers:
with open(filename) as f:
content = f.readlines()
# you may also want to remove whitespace characters like `\n` at the end of each line
content = [x.strip() for x in content]
readlines()
效率不是很高,因为它可能导致MemoryError。在这种情况下,最好使用for line in f:
每个line
变量并对其进行操作来遍历文件。
.rstrip()
如果要从行尾去除空白,则工作速度会稍快一些。
请参阅输入和输出:
with open('filename') as f:
lines = f.readlines()
或通过删除换行符:
with open('filename') as f:
lines = [line.rstrip() for line in f]
f.read().splitlines()
,它确实会删除换行符
for line in open(filename)
安全吗?也就是说,文件会自动关闭吗?
lines = [x.rstrip('\n') for x in open('data\hsf.txt','r')]
如果以这种方式编写,读取后如何关闭文件?
open
没有上下文管理器(或其他保证关闭它的方法)不是“最佳实践” ,但这实际上不是这些情况之一-当对象没有更多引用时它将被垃圾收集并关闭文件,当完成列表理解处理后,无论是否发生错误,都应立即发生。
这比必要的要明确,但是可以满足您的要求。
with open("file.txt") as file_in:
lines = []
for line in file_in:
lines.append(line)
array
虽然它仍附加在文件中,但是可能还有其他情况)。当然,对于大文件,此方法可以缓解问题。
这将从文件中产生行的“数组”。
lines = tuple(open(filename, 'r'))
open
返回可以迭代的文件。遍历文件时,您将从该文件中获取行。tuple
可以使用一个迭代器,并从赋予它的迭代器中实例化一个元组实例。lines
是从文件行创建的元组。
lines = open(filename).read().split('\n')
。
lines = open(filename).read().splitlines()
它更干净一些,并且我相信它还能更好地处理DOS行尾。
list
比a占用约13.22%的空间tuple
。结果来自from sys import getsizeof as g; i = [None] * 1000; round((g(list(i)) / g(tuple(i)) - 1) * 100, 2)
。创建a tuple
所需的时间比创建a list
(标准偏差为0.16%)的时间长约4.17%。结果来自运行from timeit import timeit as t; round((t('tuple(i)', 'i = [None] * 1000') / t('list(i)', 'i = [None] * 1000') - 1) * 100, 2)
30次。当对可变性的需求未知时,我的解决方案倾向于空间而不是速度。
如果要\n
包括在内:
with open(fname) as f:
content = f.readlines()
如果你不想 \n
包括:
with open(fname) as f:
content = f.read().splitlines()
根据Python的文件对象方法,将文本文件转换为a的最简单方法list
是:
with open('file.txt') as f:
my_list = list(f)
如果只需要遍历文本文件行,则可以使用:
with open('file.txt') as f:
for line in f:
...
旧答案:
使用with
和readlines()
:
with open('file.txt') as f:
lines = f.readlines()
如果您不关心关闭文件,则此单行代码有效:
lines = open('file.txt').readlines()
在传统的方法:
f = open('file.txt') # Open file on read mode
lines = f.read().split("\n") # Create a list containing all lines
f.close() # Close file
如建议的那样,您可以简单地执行以下操作:
with open('/your/path/file') as f:
my_lines = f.readlines()
请注意,此方法有两个缺点:
1)您将所有行存储在内存中。在一般情况下,这是一个非常糟糕的主意。该文件可能非常大,并且可能会用完内存。即使它不大,也只是浪费内存。
2)不允许在阅读每行时对其进行处理。因此,如果您在此之后处理行,则效率不高(需要两次通过而不是一次)。
对于一般情况,更好的方法是:
with open('/your/path/file') as f:
for line in f:
process(line)
在任何需要的地方定义过程功能。例如:
def process(line):
if 'save the world' in line.lower():
superman.save_the_world()
(Superman
该类的实现留给您练习)。
这对于任何文件大小都可以很好地工作,而且您只需一遍就可以浏览文件。这通常是通用解析器的工作方式。
open('file_path', 'r+')
数据入列表
假设我们有一个文本文件,其数据如下行所示,
文字档内容:
line 1
line 2
line 3
python
并在解释器中编写:Python脚本:
>>> with open("myfile.txt", encoding="utf-8") as file:
... x = [l.strip() for l in file]
>>> x
['line 1','line 2','line 3']
使用追加:
x = []
with open("myfile.txt") as file:
for l in file:
x.append(l.strip())
要么:
>>> x = open("myfile.txt").read().splitlines()
>>> x
['line 1', 'line 2', 'line 3']
要么:
>>> x = open("myfile.txt").readlines()
>>> x
['linea 1\n', 'line 2\n', 'line 3\n']
要么:
>>> y = [x.rstrip() for x in open("my_file.txt")]
>>> y
['line 1','line 2','line 3']
with open('testodiprova.txt', 'r', encoding='utf-8') as file:
file = file.read().splitlines()
print(file)
with open('testodiprova.txt', 'r', encoding='utf-8') as file:
file = file.readlines()
print(file)
encoding="utf-8"
必需的吗?
read().splitlines()
是由Python提供给您的:它很简单readlines()
(可能会更快,因为它浪费更少)。
要将文件读入列表,您需要做三件事:
幸运的是,Python使执行这些操作变得非常容易,因此将文件读入列表的最短方法是:
lst = list(open(filename))
但是,我将添加更多解释。
我假设您要打开特定文件,并且不直接处理文件句柄(或类似文件的句柄)。在Python中打开文件最常用的功能是open
,它在Python 2.7中带有一个强制参数和两个可选参数:
文件名应该是代表文件路径的字符串。例如:
open('afile') # opens the file named afile in the current working directory
open('adir/afile') # relative path (relative to the current working directory)
open('C:/users/aname/afile') # absolute path (windows)
open('/usr/local/afile') # absolute path (linux)
请注意,需要指定文件扩展名。这对于Windows用户尤其重要,因为在资源管理器中查看时,默认情况下会隐藏文件扩展名(例如.txt
或.doc
等)。
第二个参数是mode
,r
默认情况下表示“只读”。这正是您所需要的。
但是,如果您确实要创建文件和/或写入文件,则在此处需要使用其他参数。如果您需要概述,这是一个很好的答案。
要读取文件,您可以省略mode
或明确传递它:
open(filename)
open(filename, 'r')
两者都将以只读模式打开文件。如果要在Windows上读取二进制文件,则需要使用模式rb
:
open(filename, 'rb')
在其他平台上,'b'
(二进制模式)将被忽略。
现在,我已经显示了如何处理open
文件,让我们谈谈您总是需要close
再次使用它的事实。否则,它将保持对文件的打开文件句柄,直到进程退出(或Python丢弃文件句柄)。
虽然您可以使用:
f = open(filename)
# ... do stuff with f
f.close()
当两者之间存在open
并close
引发异常时,将无法关闭文件。您可以使用try
和来避免这种情况finally
:
f = open(filename)
# nothing in between!
try:
# do stuff with f
finally:
f.close()
但是,Python提供了具有更漂亮语法的上下文管理器(但与上面open
的try
和几乎相同finally
):
with open(filename) as f:
# do stuff with f
# The file is always closed after the with-scope ends.
最后一种方法是建议使用 Python打开文件的方法!
好的,您已经打开了文件,现在如何读取?
该open
函数返回一个file
对象,它支持Python的迭代协议。每次迭代都会给你一行:
with open(filename) as f:
for line in f:
print(line)
这将打印文件的每一行。但是请注意,每行\n
的末尾都将包含一个换行符(您可能要检查您的Python是否具有通用换行符支持 -否则\r\n
在Windows或\r
Mac 上也可以作为换行符)。如果您不希望这样做,可以简单地删除最后一个字符(或Windows中的最后两个字符):
with open(filename) as f:
for line in f:
print(line[:-1])
但是最后一行不一定有尾随换行符,因此不应使用它。可以检查它是否以尾随换行符结尾,如果是这样,请将其删除:
with open(filename) as f:
for line in f:
if line.endswith('\n'):
line = line[:-1]
print(line)
但是您可以简单地\n
从字符串末尾删除所有空格(包括字符),这还将删除所有其他尾随空格,因此如果这些空格很重要,则必须小心:
with open(filename) as f:
for line in f:
print(f.rstrip())
但是,如果这些行以\r\n
(Windows“ newlines”)结尾,.rstrip()
则也将注意\r
!
现在您知道了如何打开文件并阅读它,是时候将内容存储在列表中了。最简单的选择是使用以下list
功能:
with open(filename) as f:
lst = list(f)
如果要删除尾随的换行符,可以使用列表理解:
with open(filename) as f:
lst = [line.rstrip() for line in f]
或更简单:默认情况下.readlines()
,file
对象的方法返回list
以下行中的a:
with open(filename) as f:
lst = f.readlines()
这还将包括尾随换行符,如果您不希望它们,我将推荐这种[line.rstrip() for line in f]
方法,因为它避免了在内存中保留包含所有行的两个列表。
还有一个额外的选项来获得所需的输出,但是它是“次优的”:read
将整个文件放在字符串中,然后在换行符上分割:
with open(filename) as f:
lst = f.read().split('\n')
要么:
with open(filename) as f:
lst = f.read().splitlines()
由于split
不包含字符,因此它们会自动处理尾随的换行符。但是,它们并不理想,因为您将文件保留为字符串和内存中的行列表!
with open(...) as f
在打开文件时使用,因为您无需自己关闭文件,即使发生某些异常也可以关闭文件。file
对象支持迭代协议,因此逐行读取文件就像一样简单for line in the_file_object:
。readlines()
但是如果您要在将行存储到列表中之前对其进行处理,我建议您使用简单的列表理解。将文件中的行读入列表的简洁Python方式
首先,最重要的是,您应该专注于以高效且Python方式打开文件并读取其内容。这是我个人不喜欢的方式的一个示例:
infile = open('my_file.txt', 'r') # Open the file for reading.
data = infile.read() # Read the contents of the file.
infile.close() # Close the file since we're done using it.
相反,我更喜欢以下打开文件进行读写的方法,因为它非常干净,并且在使用完文件后不需要关闭文件的额外步骤。在下面的语句中,我们将打开文件进行读取,并将其分配给变量“ infile”。一旦该语句中的代码运行完毕,该文件将自动关闭。
# Open the file for reading.
with open('my_file.txt', 'r') as infile:
data = infile.read() # Read the contents of the file into memory.
现在,我们需要集中精力将这些数据引入Python列表中,因为它们是可迭代的,高效的和灵活的。在您的情况下,理想的目标是将文本文件的每一行放入一个单独的元素中。为此,我们将使用splitlines()方法,如下所示:
# Return a list of the lines, breaking at line boundaries.
my_list = data.splitlines()
最终产品:
# Open the file for reading.
with open('my_file.txt', 'r') as infile:
data = infile.read() # Read the contents of the file into memory.
# Return a list of the lines, breaking at line boundaries.
my_list = data.splitlines()
测试我们的代码:
A fost odatã ca-n povesti,
A fost ca niciodatã,
Din rude mãri împãrãtesti,
O prea frumoasã fatã.
print my_list # Print the list.
# Print each line in the list.
for line in my_list:
print line
# Print the fourth element in this list.
print my_list[3]
['A fost odat\xc3\xa3 ca-n povesti,', 'A fost ca niciodat\xc3\xa3,',
'Din rude m\xc3\xa3ri \xc3\xaemp\xc3\xa3r\xc3\xa3testi,', 'O prea
frumoas\xc3\xa3 fat\xc3\xa3.']
A fost odatã ca-n povesti, A fost ca niciodatã, Din rude mãri
împãrãtesti, O prea frumoasã fatã.
O prea frumoasã fatã.
通过对文件使用列表推导,这是另一个选择。
lines = [line.rstrip() for line in open('file.txt')]
这应该是一种更有效的方法,因为大部分工作都在Python解释器中完成。
rstrip()
可能会剥离所有尾随的空格,而不仅是\n
; 使用.rstrip('\n')
。
使用Python 2和Python 3读写文本文件;它适用于Unicode
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
# Define data
lines = [' A first string ',
'A Unicode sample: €',
'German: äöüß']
# Write text file
with open('file.txt', 'w') as fp:
fp.write('\n'.join(lines))
# Read text file
with open('file.txt', 'r') as fp:
read_lines = fp.readlines()
read_lines = [line.rstrip('\n') for line in read_lines]
print(lines == read_lines)
注意事项:
with
是所谓的上下文管理器。确保打开的文件再次关闭。.strip()
或.rstrip()
将无法复制的解决方案都将lines
剥夺空白。通用文件结尾
.txt
更高级的文件写入/读取
对于您的应用程序,以下内容可能很重要:
另请参阅:数据序列化格式的比较
如果您想寻找一种制作配置文件的方法,则可能需要阅读我的简短文章《Python中的配置文件》。
另一个选项是numpy.genfromtxt
,例如:
import numpy as np
data = np.genfromtxt("yourfile.dat",delimiter="\n")
这将使data
NumPy数组具有与文件中一样多的行。
如果您想从命令行或标准输入中读取文件,也可以使用以下fileinput
模块:
# reader.py
import fileinput
content = []
for line in fileinput.input():
content.append(line.strip())
fileinput.close()
像这样将文件传递给它:
$ python reader.py textfile.txt
在此处阅读更多信息:http : //docs.python.org/2/library/fileinput.html
最简单的方法
一种简单的方法是:
在一行中,这将给出:
lines = open('C:/path/file.txt').read().splitlines()
但是,这是一种非常低效的方式,因为它将在内存中存储2个版本的内容(对于小文件来说可能不是一个大问题,但仍然如此)。[谢谢马克·阿默里]。
有2种更简单的方法:
lines = list(open('C:/path/file.txt'))
# ... or if you want to have a list without EOL characters
lines = [l.rstrip() for l in open('C:/path/file.txt')]
pathlib
为文件创建路径,以供程序中的其他操作使用:from pathlib import Path
file_path = Path("C:/path/file.txt")
lines = file_path.read_text().split_lines()
# ... or ...
lines = [l.rstrip() for l in file_path.open()]
.read().splitlines()
并不比仅调用“简单” .readlines()
。另外,它的内存效率低下;您无需一次将两个版本的文件内容(由返回的单个字符串.read()
和由返回的字符串列表splitlines()
)存储在内存中。
只需使用splitlines()函数。这是一个例子。
inp = "file.txt"
data = open(inp)
dat = data.read()
lst = dat.splitlines()
print lst
# print(lst) # for python 3
在输出中,您将具有行列表。
.readlines()
。这会将文件内容的两个副本一次放入内存中(一个作为单个大字符串,一个作为行列表)。
如果您想要面对一个非常大的文件,并且想要更快地读取(假设您正在参加Topcoder / Hackerrank编码竞赛),则可以一次将相当大的几行读取到内存缓冲区中,而不是一次只是在文件级别逐行迭代。
buffersize = 2**16
with open(path) as f:
while True:
lines_buffer = f.readlines(buffersize)
if not lines_buffer:
break
for line in lines_buffer:
process(line)
process(line)
是处理数据需要实现的功能。例如,如果使用而不是该行,print(line)
它将从lines_buffer打印每一行。
lines = list(open('filename'))
要么
lines = tuple(open('filename'))
要么
lines = set(open('filename'))
在使用的情况下set
,必须记住,我们没有保留行顺序并摆脱了重复的行。
由于您既不调用
.close
文件对象也不使用with
语句,因此在某些Python实现中,文件在读取后可能不会关闭,并且您的进程将泄漏打开的文件句柄。在CPython(大多数人使用的普通Python实现)中,这不是问题,因为文件对象将立即被垃圾收集并关闭文件,但是,尽管如此,它仍被认为是最佳实践,例如:
with open('filename') as f: lines = list(f)
以确保无论使用哪种Python实现,文件都将关闭。
.close
文件对象也不使用with
语句,因此在某些Python实现中,文件在读取后可能不会关闭,并且您的进程将泄漏打开的文件句柄。在CPython(大多数人使用的普通Python实现)中,这不是问题,因为文件对象将立即被垃圾回收,这将关闭文件,但是,尽管如此,做为with open('filename') as f: lines = list(f)
确保以下内容的方法仍被认为是最佳做法:无论您使用哪种Python实现,文件都会关闭。
使用filename
,从Path(filename)
对象处理文件,或直接使用open(filename) as f
,执行以下任一操作:
list(fileinput.input(filename))
with path.open() as f
,呼叫f.readlines()
list(f)
path.read_text().splitlines()
path.read_text().splitlines(keepends=True)
fileinput.input
或,f
并且list.append
每行一次f
给绑定list.extend
方法f
列表理解我在下面解释了每个的用例。
在Python中,如何逐行读取文件?
这是一个很好的问题。首先,让我们创建一些示例数据:
from pathlib import Path
Path('filename').write_text('foo\nbar\nbaz')
文件对象是惰性的迭代器,因此只需对其进行迭代即可。
filename = 'filename'
with open(filename) as f:
for line in f:
line # do something with the line
或者,如果您有多个文件,请使用fileinput.input
,另一个懒惰迭代器。仅一个文件:
import fileinput
for line in fileinput.input(filename):
line # process the line
或对于多个文件,向其传递文件名列表:
for line in fileinput.input([filename]*2):
line # process the line
再次,f
并且fileinput.input
在两者之上都是返回懒惰迭代器。您只能使用一次迭代器,因此在提供功能代码的同时避免了冗长性,我将fileinput.input(filename)
在此处使用适当的简短程度。
在Python中,如何将文件逐行读入列表?
啊,但是出于某种原因您想要在列表中?如果可能,我会避免这种情况。但是,如果您坚持...只需将结果传递fileinput.input(filename)
给list
:
list(fileinput.input(filename))
另一个直接的答案是打电话 f.readlines
,它返回文件的内容(最多可选hint
数目的字符,因此您可以通过这种方式将其分解为多个列表)。
您可以通过两种方式获取此文件对象。一种方法是将文件名传递给open
内置:
filename = 'filename'
with open(filename) as f:
f.readlines()
或使用新的Path对象 pathlib
模块中(我已经很喜欢它,并将在此处使用):
from pathlib import Path
path = Path(filename)
with path.open() as f:
f.readlines()
list
也将使用文件迭代器并返回列表-同样是一个非常直接的方法:
with path.open() as f:
list(f)
如果您不介意在拆分之前将整个文本作为单个字符串读取到内存中,则可以使用Path
对象和splitlines()
字符串方法将其作为一个单行进行。默认,splitlines
删除换行符:
path.read_text().splitlines()
如果要保留换行符,请传递keepends=True
:
path.read_text().splitlines(keepends=True)
我想逐行读取文件并将每行追加到列表的末尾。
鉴于我们已经用几种方法轻松证明了最终结果,所以这有点愚蠢。但是您在创建列表时可能需要过滤或操作这些行,因此让我们对此请求进行幽默处理。
使用list.append
可以让您在添加每一行之前对其进行过滤或操作:
line_list = []
for line in fileinput.input(filename):
line_list.append(line)
line_list
使用list.extend
会更直接一些,如果您已有一个列表,则可能会有用:
line_list = []
line_list.extend(fileinput.input(filename))
line_list
或更惯用的是,我们可以改用列表理解,并在需要时在其中进行映射和过滤:
[line for line in fileinput.input(filename)]
甚至更直接地,要闭合圆,只需将其传递到列表即可直接创建新列表,而无需在线操作:
list(fileinput.input(filename))
您已经看到了许多将文件中的行放入列表中的方法,但是我建议您避免将大量数据具体化到列表中,而是尽可能使用Python的惰性迭代来处理数据。
也就是说,首选fileinput.input
或with path.open() as f
。
您也可以在NumPy中使用loadtxt命令。与genfromtxt相比,此方法检查的条件较少,因此可能更快。
import numpy
data = numpy.loadtxt(filename, delimiter="\n")
我喜欢使用以下内容。立即阅读线路。
contents = []
for line in open(filepath, 'r').readlines():
contents.append(line.strip())
或使用列表理解:
contents = [line.strip() for line in open(filepath, 'r').readlines()]
readlines()
,甚至会导致内存损失。您可以简单地将其删除,因为遍历(文本)文件会依次显示每一行。
with
语句打开(并隐式关闭)文件。
我会尝试以下提到的方法之一。我使用的示例文件的名称为dummy.txt
。您可以在此处找到文件。我认为该文件与代码位于同一目录中(您可以更改fpath
以包含正确的文件名和文件夹路径。)
在下面提到的两个示例中,所需的列表由给出lst
。
1.>第一种方法:
fpath = 'dummy.txt'
with open(fpath, "r") as f: lst = [line.rstrip('\n \t') for line in f]
print lst
>>>['THIS IS LINE1.', 'THIS IS LINE2.', 'THIS IS LINE3.', 'THIS IS LINE4.']
2.>在第二种方法中,可以使用Python标准库中的csv.reader模块:
import csv
fpath = 'dummy.txt'
with open(fpath) as csv_file:
csv_reader = csv.reader(csv_file, delimiter=' ')
lst = [row[0] for row in csv_reader]
print lst
>>>['THIS IS LINE1.', 'THIS IS LINE2.', 'THIS IS LINE3.', 'THIS IS LINE4.']
您可以使用两种方法之一。创建时间lst
在两种方法中时间几乎相等。
delimiter=' '
对的说法?
这是我用来简化文件I / O 的Python(3)帮助程序库类:
import os
# handle files using a callback method, prevents repetition
def _FileIO__file_handler(file_path, mode, callback = lambda f: None):
f = open(file_path, mode)
try:
return callback(f)
except Exception as e:
raise IOError("Failed to %s file" % ["write to", "read from"][mode.lower() in "r rb r+".split(" ")])
finally:
f.close()
class FileIO:
# return the contents of a file
def read(file_path, mode = "r"):
return __file_handler(file_path, mode, lambda rf: rf.read())
# get the lines of a file
def lines(file_path, mode = "r", filter_fn = lambda line: len(line) > 0):
return [line for line in FileIO.read(file_path, mode).strip().split("\n") if filter_fn(line)]
# create or update a file (NOTE: can also be used to replace a file's original content)
def write(file_path, new_content, mode = "w"):
return __file_handler(file_path, mode, lambda wf: wf.write(new_content))
# delete a file (if it exists)
def delete(file_path):
return os.remove() if os.path.isfile(file_path) else None
然后FileIO.lines
,您将使用该函数,如下所示:
file_ext_lines = FileIO.lines("./path/to/file.ext"):
for i, line in enumerate(file_ext_lines):
print("Line {}: {}".format(i + 1, line))
请记住,mode
("r"
默认情况下)和filter_fn
(默认情况下检查空行)参数是可选的。
你甚至可以删除read
,write
以及delete
方法和刚离开FileIO.lines
,甚至把它变成所谓的一个单独的方法read_lines
。
lines = FileIO.lines(path)
真的够简单得多with open(path) as f: lines = f.readlines()
证明这个辅助的存在?您每次通话可节省17个字符。(而且在大多数情况下,出于性能和内存方面的原因,您将希望直接循环遍历文件对象,而不是始终将其行读入列表,因此您甚至不想经常使用它!)经常喜欢创建一些小的实用函数,但是我觉得这就像不必要地创建一种新的方法,用标准库为我们编写已经很简单的东西。
file.readlines()
在for
-loop中使用文件对象本身就足够了:lines = [line.rstrip('\n') for line in file]