从CSV文件创建字典?


153

我正在尝试从csv文件创建字典。csv文件的第一列包含唯一键,第二列包含值。csv文件的每一行代表字典中的唯一键,值对。我尝试使用csv.DictReadercsv.DictWriter类,但是只能弄清楚如何为每一行生成一个新的字典。我要一部字典。这是我尝试使用的代码:

import csv

with open('coors.csv', mode='r') as infile:
    reader = csv.reader(infile)
    with open('coors_new.csv', mode='w') as outfile:
    writer = csv.writer(outfile)
    for rows in reader:
        k = rows[0]
        v = rows[1]
        mydict = {k:v for k, v in rows}
    print(mydict)

当我运行上面的代码时,我得到一个ValueError: too many values to unpack (expected 2)。如何从csv文件创建一个字典?谢谢。


2
您可以举一个输入文件和结果数据结构的例子吗?
罗伯特

1
当您遍历csv.reader时,将得到单行,而不是行。因此,有效格式为mydict = {k:v for reader中的k,v},但是如果您确定csv文件中只有两列,则mydict = dict(reader)要快得多。
亚历克斯·拉斯金

Answers:


154

我相信您正在寻找的语法如下:

import csv

with open('coors.csv', mode='r') as infile:
    reader = csv.reader(infile)
    with open('coors_new.csv', mode='w') as outfile:
        writer = csv.writer(outfile)
        mydict = {rows[0]:rows[1] for rows in reader}

或者,对于python <= 2.7.1,您需要:

mydict = dict((rows[0],rows[1]) for rows in reader)

2
占比预期更长的行很好;但是如果连续有太多项目,他不应该提出自己的例外吗?我认为那将意味着他的输入数据有错误。
机器渴望

1
然后他至少能够将异常范围缩小到错误的输入
机器向往着

那有一些优点,但是我坚信,有例外可以告诉您您对程序的编程不正确-不是因为世界给了您柠檬。那是当您打印出漂亮的错误消息并失败时,或者(对于这种情况更合适)打印出漂亮的警告消息并成功时。
Nate

抱歉,看了op的代码,很难说他是否只希望每行2个项目。我错了!
机器渴望

1
我曾在CSV多行,但只给了1个键:值对
Abhilash米什拉

80

通过依次调用open和打开文件csv.DictReader

input_file = csv.DictReader(open("coors.csv"))

您可以通过遍历input_file遍历csv文件dict阅读器对象的行。

for row in input_file:
    print(row)

或仅访问第一行

dictobj = csv.DictReader(open('coors.csv')).next() 

更新 在python 3+版本中,此代码将有所变化:

reader = csv.DictReader(open('coors.csv'))
dictobj = next(reader) 

3
这使得DictReader对象不是字典(是不是键值对)
HN Singh

1
@HN Singh-是的,我知道-意图是它也会对其他人有所帮助
Laxmikant Ratnaparkhi

1
'DictReader'对象没有属性'
next'– Palak

1
@Palak -这是回答的Python 2.7,尝试next(dictobj),而不是dictobj.next()在Python 3+版本。
Laxmikant Ratnaparkhi,

61
import csv
reader = csv.reader(open('filename.csv', 'r'))
d = {}
for row in reader:
   k, v = row
   d[k] = v

6
高度非Python风格。
亚历克斯·拉斯金

47
@Alex Laskin:真的吗?对我来说,它看起来像一些易读的python。您支持此声明的原则是什么?您基本上只是称他为“大便人的头” ...
渴望

26
@ machine-向往,不,我不是说他的代码很糟糕。但是,例如,for row in reader: k, v = row如果可以简单地编写for k, v in reader,就没有单一的原因可以写作。而且,如果您期望该阅读器是可迭代的,可以生成两个元素的项目,则只需将其直接传递给字典即可进行转换。d = dict(reader)在庞大的数据集上要短得多,而且速度要快得多。
亚历克斯·拉斯金

44
@Alex Laskin:感谢您的澄清。我个人同意您的看法,但我认为,如果您要称呼某人的代码为“非Python语言”,则应在理由上附上该评论。我会说“更短”和“更快”不一定等同于“更pythonic”。可读性/可靠性也是一个很大的问题。如果将我们的某些约束纳入上述for row in reader范式比较容易,那么(经过长期开发)它可能会更实用。我短期内同意您的意见,但请提防过早的优化。
渴望

30

这不是很好,但是使用熊猫的一线解决方案。

import pandas as pd
pd.read_csv('coors.csv', header=None, index_col=0, squeeze=True).to_dict()

如果要为索引指定dtype(如果由于bug而使用index_col参数,则无法在read_csv中指定该类型):

import pandas as pd
pd.read_csv('coors.csv', header=None, dtype={0: str}).set_index(0).squeeze().to_dict()

3
在我的书中,这是最好的答案
boardtc

如果有标题...?
ndtreviv '19

@ndtreviv,您可以使用跳过行来忽略标题。
mudassirkhan19

17

您只需要将csv.reader转换为dict:

~ >> cat > 1.csv
key1, value1
key2, value2
key2, value22
key3, value3

~ >> cat > d.py
import csv
with open('1.csv') as f:
    d = dict(filter(None, csv.reader(f)))

print(d)

~ >> python d.py
{'key3': ' value3', 'key2': ' value22', 'key1': ' value1'}

5
该解决方案很整洁,并且如果他可以确定自己的输入在某行中永远不会有三列或更多列,那么它将非常有用。但是,如果遇到这种情况,将引发类似以下的异常:ValueError: dictionary update sequence element #2 has length 3; 2 is required
Nate

@machine,从问题中的错误来看,csv文件有多于两列
John La Rooy

@gnibbler,不,问题中的错误是由于行的两次解包所致。首先,他试图遍历读者,获得实际上是单。当他尝试遍历这一行时,他得到了两个项目,无法正确解压。
亚历克斯·拉斯金

一个普遍的评论:使对象由可迭代对象保存在内存中会导致内存问题。建议检查您的内存空间和可迭代源文件的大小。可迭代对象的主要优点(要点是什么?)是不将大的东西保存在内存中。
travelingbones

@Nate:可以通过用包裹该filter调用来解决此问题map(operator.itemgetter(slice(2)), ...),因此它只会提取前两个迭代,从而使其成为dict(map(operator.itemgetter(slice(2)), filter(None, csv.reader(f))))。如果使用的是Python 2,请确保这样做from future_builtins import map, filter,以便dict直接读取生成器,而不是先生成多个不必要的临时lists)。
ShadowRanger

12

您也可以为此使用numpy。

from numpy import loadtxt
key_value = loadtxt("filename.csv", delimiter=",")
mydict = { k:v for k,v in key_value }

5

我建议添加if rows,以防文件末尾有空行

import csv
with open('coors.csv', mode='r') as infile:
    reader = csv.reader(infile)
    with open('coors_new.csv', mode='w') as outfile:
        writer = csv.writer(outfile)
        mydict = dict(row[:2] for row in reader if row)

做得好和考虑周全。但是,就像我在上面说的那样,他真的应该忽略输入行比预期长的事实吗?我要说的是,如果他得到一行包含两个以上的项目,他应该提出自己的例外(带有自定义消息)。
机器渴望

或者更确切地说,如上面@Nate所述,至少打印警告消息。这似乎并不是您想要忽略的东西。
渴望

您的回答(相对于我的回答)使人思考了一些问题-在这种情况下,切片和索引编制之间是否存在效率差异?
Nate

1
@机器,不知道。也许这是数据库中用户表的转储,他只想要一个userid:username之类的命令,例如
John La Rooy

1
大家好,感谢您的评论。您的讨论确实帮助我解决了我的问题。我喜欢关于如果输入时间长于预期的情况下升旗的想法。我的数据是数据库转储,确实有两列以上的数据。
drbunsen 2011年

5

一线解决方案

import pandas as pd

dict = {row[0] : row[1] for _, row in pd.read_csv("file.csv").iterrows()}

3

如果可以使用numpy包,则可以执行以下操作:

import numpy as np

lines = np.genfromtxt("coors.csv", delimiter=",", dtype=None)
my_dict = dict()
for i in range(len(lines)):
   my_dict[lines[i][0]] = lines[i][1]

3

对于简单的csv文件,例如以下内容

id,col1,col2,col3
row1,r1c1,r1c2,r1c3
row2,r2c1,r2c2,r2c3
row3,r3c1,r3c2,r3c3
row4,r4c1,r4c2,r4c3

您可以仅使用内置功能将其转换为Python字典

with open(csv_file) as f:
    csv_list = [[val.strip() for val in r.split(",")] for r in f.readlines()]

(_, *header), *data = csv_list
csv_dict = {}
for row in data:
    key, *values = row   
    csv_dict[key] = {key: value for key, value in zip(header, values)}

这应该产生以下字典

{'row1': {'col1': 'r1c1', 'col2': 'r1c2', 'col3': 'r1c3'},
 'row2': {'col1': 'r2c1', 'col2': 'r2c2', 'col3': 'r2c3'},
 'row3': {'col1': 'r3c1', 'col2': 'r3c2', 'col3': 'r3c3'},
 'row4': {'col1': 'r4c1', 'col2': 'r4c2', 'col3': 'r4c3'}}

注意:Python字典具有唯一键,因此,如果csv文件重复ids,则应将每行追加到列表中。

for row in data:
    key, *values = row

    if key not in csv_dict:
            csv_dict[key] = []

    csv_dict[key].append({key: value for key, value in zip(header, values)})

注意,这可以全部缩短为 set_default:csv_dict.set_default(key,[])。append({key:key的值,zip中的值(header,values)}))
mdmjsh

命令中的({key:value})语法.append非常有用。row.update在遍历并添加到DictReader由CSV文件制成的对象时,最终使用了相同的语法。
Shrout1

1

您可以使用它,这非常酷:

import dataconverters.commas as commas
filename = 'test.csv'
with open(filename) as f:
      records, metadata = commas.parse(f)
      for row in records:
            print 'this is row in dictionary:'+rowenter code here

1

已经发布了许多解决方案,我想为我的做出贡献,该解决方案适用于CSV文件中不同数量的列。它创建每列一个键的字典,每个键的值是一个列表,其中包含该列中的元素。

    input_file = csv.DictReader(open(path_to_csv_file))
    csv_dict = {elem: [] for elem in input_file.fieldnames}
    for row in input_file:
        for key in csv_dict.keys():
            csv_dict[key].append(row[key])

1

例如,使用熊猫要容易得多。假设您拥有以下数据作为CSV并将其命名为test.txt/ test.csv(您知道CSV是一种文本文件)

a,b,c,d
1,2,3,4
5,6,7,8

现在正在使用熊猫

import pandas as pd
df = pd.read_csv("./text.txt")
df_to_doct = df.to_dict()

对于每一行,

df.to_dict(orient='records')

就是这样。


0

尝试使用defaultdictDictReader

import csv
from collections import defaultdict
my_dict = defaultdict(list)

with open('filename.csv', 'r') as csv_file:
    csv_reader = csv.DictReader(csv_file)
    for line in csv_reader:
        for key, value in line.items():
            my_dict[key].append(value)

它返回:

{'key1':[value_1, value_2, value_3], 'key2': [value_a, value_b, value_c], 'Key3':[value_x, Value_y, Value_z]}
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.