有没有一种简单的方法可以从Linux命令行运行MySQL查询并以CSV格式输出结果?
这是我现在正在做的事情:
mysql -u uid -ppwd -D dbname << EOQ | sed -e 's/ /,/g' | tee list.csv
select id, concat("\"",name,"\"") as name
from students
EOQ
当有很多列需要用引号引起来时,或者结果中有引号需要转义时,它将变得混乱。
有没有一种简单的方法可以从Linux命令行运行MySQL查询并以CSV格式输出结果?
这是我现在正在做的事情:
mysql -u uid -ppwd -D dbname << EOQ | sed -e 's/ /,/g' | tee list.csv
select id, concat("\"",name,"\"") as name
from students
EOQ
当有很多列需要用引号引起来时,或者结果中有引号需要转义时,它将变得混乱。
Answers:
从http://www.tech-recipes.com/rx/1475/save-mysql-query-results-into-a-text-or-csv-file/
SELECT order_id,product_name,qty
FROM orders
WHERE foo = 'bar'
INTO OUTFILE '/var/lib/mysql-files/orders.csv'
FIELDS TERMINATED BY ','
ENCLOSED BY '"'
LINES TERMINATED BY '\n';
使用此命令,列名将不会导出。
还要注意,/var/lib/mysql-files/orders.csv
它将在运行MySQL 的服务器上。运行MySQL进程的用户必须具有写入所选目录的权限,否则该命令将失败。
如果要从远程服务器(尤其是托管或虚拟化的计算机,例如Heroku或Amazon RDS)将输出写入本地计算机,则此解决方案不适合。
$ mysql your_database --password=foo < my_requests.sql > out.csv
用制表符分隔。像这样通过管道传输以获取真实的CSV(感谢@therefromhere):
... .sql | sed 's/\t/,/g' > out.csv
| sed 's/\t/,/g'
mysql --batch,-B
使用tab作为列分隔符打印结果,每一行都换行。使用该选项,mysql不使用历史文件。批处理模式导致以非表格格式输出格式并转义特殊字符。可以通过使用原始模式来禁用转义。请参阅--raw选项的说明。
这将为您提供一个制表符分隔的文件。由于逗号(或包含逗号的字符串)不会被转义,因此将分隔符更改为逗号并非易事。
这是一种相当粗糙的方法。在某个地方找到它,不能功劳
mysql --user=wibble --password wobble -B -e "select * from vehicle_categories;" | sed "s/'/\'/;s/\t/\",\"/g;s/^/\"/;s/$/\"/;s/\n//g" > vehicle_categories.csv
效果很好。尽管正则表达式再次证明只写。
正则表达式说明:
因此,将它们放在一起:
s/'/\'/ replace ' with \'
s/\t/\",\"/g replace all \t (tab) with ","
s/^/\"/ at the beginning of the line place a "
s/$/\"/ at the end of the line place a "
s/\n//g replace all \n (newline) with nothing
mysql -B
。如果您将正则表达式分成几行放在单独的语句中,那么对理解正则表达式的人来说,这将非常简单。
","
,和许多其他内容,则此操作将中断。正则表达式不是解决此问题的方法
这节省了我几次。快速且有效!
--batch 使用tab作为列分隔符打印结果,每一行都换行。
--raw 禁用字符转义(\ n,\ t,\ 0和\)
例:
mysql -udemo_user -p -h127.0.0.1 --port=3306 \
--default-character-set=utf8mb4 --database=demo_database \
--batch --raw < /tmp/demo_sql_query.sql > /tmp/demo_csv_export.tsv
为了完整起见,您可以转换为csv(但请注意,因为制表符可能位于字段值内-例如文本字段)
tr '\t' ',' < file.tsv > file.csv
Paul Tomblin提供的OUTFILE解决方案导致将文件写入MySQL服务器本身,因此,只有在您具有FILE访问权,登录访问权或其他从该框中检索文件的方式时,此方法才有效。
如果您没有这种访问权限,并且制表符分隔的输出是CSV的合理替代(例如,如果您的最终目标是导入到Excel),那么Serbaut的解决方案(使用mysql --batch
和可选--raw
)是可行的方法。
MySQL Workbench可以将记录集导出为CSV,并且似乎可以很好地处理字段中的逗号。CSV在OpenOffice中可以正常打开。
怎么样:
mysql your_database -p < my_requests.sql | awk '{print $1","$2}' > out.csv
mysql -uUser -pPassword your_database < my_requests.sql | awk 'BEGIN{OFS="=";} {print $1,$2}' > out.csv
迄今为止,这里的所有解决方案,除了MySQL工作台之外,对于mysql db中至少某些可能的内容都是不正确的,并且很可能是不安全的(即安全性问题)。
MYSQL Workbench(和类似的PHPMyAdmin)提供了一种形式正确的解决方案,但旨在将输出下载到用户的位置。它们对于诸如自动数据导出之类的功能不是那么有用。
无法从的输出生成可靠正确的csv mysql -B -e 'SELECT ...'
因为它无法对字段中的回车符和空白进行编码。mysql的'-s'标志确实进行了反斜杠转义,并可能导致正确的解决方案。但是,使用脚本语言(一种具有不错的内部数据结构而不是bash的语言)和已经仔细解决了编码问题的库,要安全得多。
我曾考虑为此编写一个脚本,但是一想到要使用的脚本,就想到以同一个名称搜索预先存在的作品。虽然我还没有彻底解决它,但是https://github.com/robmiller/mysql2csv上的解决方案看起来很有希望。根据您的应用程序,用于指定SQL命令的yaml方法可能会或可能不会吸引人。我也不为比我的Ubuntu 12.04笔记本电脑或Debian Squeeze服务器标配的最新版本的ruby感到高兴。是的,我知道我可以使用RVM,但是我不想为了一个简单的目的而维护它。
希望有人会指出一个合适的工具,该工具已经过测试。否则,当我找到或编写一个时,可能会更新它。
此页面上的许多答案都很薄弱,因为它们无法处理CSV格式可能出现的一般情况。例如,逗号和引号最终会出现在字段和其他条件中。我们需要一种适用于所有有效CSV输入数据的通用解决方案。
这是Python中一个简单而强大的解决方案:
#!/usr/bin/env python
import csv
import sys
tab_in = csv.reader(sys.stdin, dialect=csv.excel_tab)
comma_out = csv.writer(sys.stdout, dialect=csv.excel)
for row in tab_in:
comma_out.writerow(row)
命名该文件tab2csv
,将其放在您的路径上,赋予它执行权限,然后像这样使用它:
mysql OTHER_OPTIONS --batch --execute='select * from whatever;' | tab2csv > outfile.csv
Python CSV处理功能涵盖了CSV输入格式的特殊情况。
这可以通过流方法进行改进以处理非常大的文件。
在命令行中,您可以执行以下操作:
mysql -h *hostname* -P *port number* --database=*database_name* -u *username* -p -e *your SQL query* | sed 's/\t/","/g;s/^/"/;s/$/"/;s/\n//g' > *output_file_name.csv*
积分:将 表从Amazon RDS导出到csv文件
此答案使用Python和流行的第三方库PyMySQL。我之所以添加它,是因为Python的csv库功能强大,足以正确处理许多不同的口味,.csv
并且没有其他答案正在使用Python代码与数据库进行交互。
import contextlib
import csv
import datetime
import os
# https://github.com/PyMySQL/PyMySQL
import pymysql
SQL_QUERY = """
SELECT * FROM my_table WHERE my_attribute = 'my_attribute';
"""
# embedding passwords in code gets nasty when you use version control
# the environment is not much better, but this is an example
# /programming/12461484
SQL_USER = os.environ['SQL_USER']
SQL_PASS = os.environ['SQL_PASS']
connection = pymysql.connect(host='localhost',
user=SQL_USER,
password=SQL_PASS,
db='dbname')
with contextlib.closing(connection):
with connection.cursor() as cursor:
cursor.execute(SQL_QUERY)
# Hope you have enough memory :)
results = cursor.fetchall()
output_file = 'my_query-{}.csv'.format(datetime.datetime.today().strftime('%Y-%m-%d'))
with open(output_file, 'w', newline='') as csvfile:
# http://stackoverflow.com/a/17725590/2958070 about lineterminator
csv_writer = csv.writer(csvfile, lineterminator='\n')
csv_writer.writerows(results)
这很简单,它可以在不需要批处理模式或输出文件的情况下运行:
select concat_ws(',',
concat('"', replace(field1, '"', '""'), '"'),
concat('"', replace(field2, '"', '""'), '"'),
concat('"', replace(field3, '"', '""'), '"'))
from your_table where etc;
说明:
"
为""
->replace(field1, '"', '""')
concat('"', result1, '"')
concat_ws(',', quoted1, quoted2, ...)
而已!
NULL
值将被跳过concat_ws()
,从而导致列不匹配。为避免这种情况,只需使用一个空字符串代替:(IFNULL(field, '')
或您用来表示的其他任何字符NULL
)
为了扩展先前的答案,以下单行格式将单个表导出为制表符分隔的文件。它适用于自动化,每天大约导出数据库。
mysql -B -D mydatabase -e 'select * from mytable'
方便地,我们可以使用相同的技术列出MySQL的表,并描述单个表中的字段:
mysql -B -D mydatabase -e 'show tables'
mysql -B -D mydatabase -e 'desc users'
Field Type Null Key Default Extra
id int(11) NO PRI NULL auto_increment
email varchar(128) NO UNI NULL
lastName varchar(100) YES NULL
title varchar(128) YES UNI NULL
userName varchar(128) YES UNI NULL
firstName varchar(100) YES NULL
mysql -B -D mydatabase -e 'select * from mytable' | sed -e 's/\t/,/g'
sed -e 's/\t/,/g'
,如果你确信你的数据不包含任何逗号或制表符是唯一安全的。
在user7610的基础上,这是执行此操作的最佳方法。伴随mysql outfile
着60分钟的文件所有权和覆盖问题。
这不是很酷,但可以在5分钟内完成。
php csvdump.php localhost root password database tablename > whatever-you-like.csv
<?php
$server = $argv[1];
$user = $argv[2];
$password = $argv[3];
$db = $argv[4];
$table = $argv[5];
mysql_connect($server, $user, $password) or die(mysql_error());
mysql_select_db($db) or die(mysql_error());
// fetch the data
$rows = mysql_query('SELECT * FROM ' . $table);
$rows || die(mysql_error());
// create a file pointer connected to the output stream
$output = fopen('php://output', 'w');
// output the column headings
$fields = [];
for($i = 0; $i < mysql_num_fields($rows); $i++) {
$field_info = mysql_fetch_field($rows, $i);
$fields[] = $field_info->name;
}
fputcsv($output, $fields);
// loop over the rows, outputting them
while ($row = mysql_fetch_assoc($rows)) fputcsv($output, $row);
?>
这是我的工作:
echo $QUERY | \
mysql -B $MYSQL_OPTS | \
perl -F"\t" -lane 'print join ",", map {s/"/""/g; /^[\d.]+$/ ? $_ : qq("$_")} @F ' | \
mail -s 'report' person@address
perl脚本(从其他地方截取)在将制表符分隔的字段转换为CSV方面做得很好。
perl -F"\t" -lane 'print join ",", map {s/"/""/g; /^\d+(?:\.\d+)?$/ ? $_ : qq("$_")} @F '
-您不会引用1.2.3
不完全是CSV格式,但是MySQL 客户端的tee
命令可用于将输出保存到本地文件中:
tee foobar.txt
SELECT foo FROM bar;
您可以使用禁用它notee
。
问题SELECT … INTO OUTFILE …;
在于它需要在服务器上写入文件的权限。
使用Tim张贴的解决方案,我创建了这个bash脚本来简化此过程(要求输入root密码,但是您可以轻松地修改脚本以询问其他用户):
#!/bin/bash
if [ "$1" == "" ];then
echo "Usage: $0 DATABASE TABLE [MYSQL EXTRA COMMANDS]"
exit
fi
DBNAME=$1
TABLE=$2
FNAME=$1.$2.csv
MCOMM=$3
echo "MySQL password:"
stty -echo
read PASS
stty echo
mysql -uroot -p$PASS $MCOMM $DBNAME -B -e "SELECT * FROM $TABLE;" | sed "s/'/\'/;s/\t/\",\"/g;s/^/\"/;s/$/\"/;s/\n//g" > $FNAME
它将创建一个名为:database.table.csv的文件
如果在服务器上设置了PHP,则可以使用mysql2csv导出(实际上有效的)CSV文件用于任意mysql查询。在MySQL上查看我的答案-SELECT * INTO OUTFILE LOCAL?以获得更多上下文/信息。
我试图从中维护选项名称,mysql
因此提供--file
和--query
选项应该足够了:
./mysql2csv --file="/tmp/result.csv" --query='SELECT 1 as foo, 2 as bar;' --user="username" --password="password"
mysql2csv
通过“安装”
wget https://gist.githubusercontent.com/paslandau/37bf787eab1b84fc7ae679d1823cf401/raw/29a48bb0a43f6750858e1ddec054d3552f3cbc45/mysql2csv -O mysql2csv -q && (sha256sum mysql2csv | cmp <(echo "b109535b29733bd596ecc8608e008732e617e97906f119c66dd7cf6ab2865a65 mysql2csv") || (echo "ERROR comparing hash, Found:" ;sha256sum mysql2csv) ) && chmod +x mysql2csv
(下载要点的内容,检查校验和并使其可执行)。
对我有用的是:
SELECT *
FROM students
WHERE foo = 'bar'
LIMIT 0,1200000
INTO OUTFILE './students-1200000.csv'
FIELDS TERMINATED BY ',' ESCAPED BY '"'
ENCLOSED BY '"'
LINES TERMINATED BY '\r\n';
该线程上的所有解决方案均不适用于我的特殊情况,其中一列中包含漂亮的json数据,这些数据会在我的csv输出中弄乱。对于那些有类似问题的用户,请尝试使用\ r \ n终止的行。
对于那些尝试使用Microsoft Excel打开csv的人来说,另一个问题是,请记住,单个单元格可以容纳32,767个字符的限制,超过此限制它就会溢出到下面的行。要确定列中的哪些记录有问题,请使用下面的查询。然后,您可以截断这些记录或根据需要进行处理。
SELECT id,name,CHAR_LENGTH(json_student_description) AS 'character length'
FROM students
WHERE CHAR_LENGTH(json_student_description)>32767;
如果您遇到的错误,secure-file-priv
则还要在将目标文件位置C:\ProgramData\MySQL\MySQL Server 8.0\Uploads
移到内之后,然后在查询后-
SELECT * FROM attendance INTO OUTFILE 'C:\ProgramData\MySQL\MySQL Server 8.0\Uploads\FileName.csv' FIELDS TERMINATED BY ',' ENCLOSED BY '"' LINES TERMINATED BY '\n';
不起作用,您只需\
将查询的(反斜线)更改为/
(正斜线)
那行得通!
例:
选择*从出席者入场文件'C:/ ProgramData / MySQL / MySQL Server 8.0 / Uploads / FileName.csv'字段以','封闭''
每次运行成功查询时,每次都会生成新的csv文件!酷吧?
受https://stackoverflow.com/a/5395421/2841607启发,用于对CSV转储进行简单查询的微型bash脚本。
#!/bin/bash
# $1 = query to execute
# $2 = outfile
# $3 = mysql database name
# $4 = mysql username
if [ -z "$1" ]; then
echo "Query not given"
exit 1
fi
if [ -z "$2" ]; then
echo "Outfile not given"
exit 1
fi
MYSQL_DB=""
MYSQL_USER="root"
if [ ! -z "$3" ]; then
MYSQL_DB=$3
fi
if [ ! -z "$4" ]; then
MYSQL_USER=$4
fi
if [ -z "$MYSQL_DB" ]; then
echo "Database name not given"
exit 1
fi
if [ -z "$MYSQL_USER" ]; then
echo "Database user not given"
exit 1
fi
mysql -u $MYSQL_USER -p -D $MYSQL_DB -B -s -e "$1" | sed "s/'/\'/;s/\t/\",\"/g;s/^/\"/;s/$/\"/;s/\n//g" > $2
echo "Written to $2"
以下bash脚本适用于我。也可以选择获取所请求表的架构。
#!/bin/bash
#
# export mysql data to CSV
#/programming/356578/how-to-output-mysql-query-results-in-csv-format
#
#ansi colors
#http://www.csc.uvic.ca/~sae/seng265/fall04/tips/s265s047-tips/bash-using-colors.html
blue='\033[0;34m'
red='\033[0;31m'
green='\033[0;32m' # '\e[1;32m' is too bright for white bg.
endColor='\033[0m'
#
# a colored message
# params:
# 1: l_color - the color of the message
# 2: l_msg - the message to display
#
color_msg() {
local l_color="$1"
local l_msg="$2"
echo -e "${l_color}$l_msg${endColor}"
}
#
# error
#
# show the given error message on stderr and exit
#
# params:
# 1: l_msg - the error message to display
#
error() {
local l_msg="$1"
# use ansi red for error
color_msg $red "Error:" 1>&2
color_msg $red "\t$l_msg" 1>&2
usage
}
#
# display usage
#
usage() {
echo "usage: $0 [-h|--help]" 1>&2
echo " -o | --output csvdirectory" 1>&2
echo " -d | --database database" 1>&2
echo " -t | --tables tables" 1>&2
echo " -p | --password password" 1>&2
echo " -u | --user user" 1>&2
echo " -hs | --host host" 1>&2
echo " -gs | --get-schema" 1>&2
echo "" 1>&2
echo " output: output csv directory to export mysql data into" 1>&2
echo "" 1>&2
echo " user: mysql user" 1>&2
echo " password: mysql password" 1>&2
echo "" 1>&2
echo " database: target database" 1>&2
echo " tables: tables to export" 1>&2
echo " host: host of target database" 1>&2
echo "" 1>&2
echo " -h|--help: show help" 1>&2
exit 1
}
#
# show help
#
help() {
echo "$0 Help" 1>&2
echo "===========" 1>&2
echo "$0 exports a csv file from a mysql database optionally limiting to a list of tables" 1>&2
echo " example: $0 --database=cms --user=scott --password=tiger --tables=person --output person.csv" 1>&2
echo "" 1>&2
usage
}
domysql() {
mysql --host $host -u$user --password=$password $database
}
getcolumns() {
local l_table="$1"
echo "describe $l_table" | domysql | cut -f1 | grep -v "Field" | grep -v "Warning" | paste -sd "," - 2>/dev/null
}
host="localhost"
mysqlfiles="/var/lib/mysql-files/"
# parse command line options
while true; do
#echo "option $1"
case "$1" in
# options without arguments
-h|--help) usage;;
-d|--database) database="$2" ; shift ;;
-t|--tables) tables="$2" ; shift ;;
-o|--output) csvoutput="$2" ; shift ;;
-u|--user) user="$2" ; shift ;;
-hs|--host) host="$2" ; shift ;;
-p|--password) password="$2" ; shift ;;
-gs|--get-schema) option="getschema";;
(--) shift; break;;
(-*) echo "$0: error - unrecognized option $1" 1>&2; usage;;
(*) break;;
esac
shift
done
# checks
if [ "$csvoutput" == "" ]
then
error "ouput csv directory not set"
fi
if [ "$database" == "" ]
then
error "mysql database not set"
fi
if [ "$user" == "" ]
then
error "mysql user not set"
fi
if [ "$password" == "" ]
then
error "mysql password not set"
fi
color_msg $blue "exporting tables of database $database"
if [ "$tables" = "" ]
then
tables=$(echo "show tables" | domysql)
fi
case $option in
getschema)
rm $csvoutput$database.schema
for table in $tables
do
color_msg $blue "getting schema for $table"
echo -n "$table:" >> $csvoutput$database.schema
getcolumns $table >> $csvoutput$database.schema
done
;;
*)
for table in $tables
do
color_msg $blue "exporting table $table"
cols=$(grep "$table:" $csvoutput$database.schema | cut -f2 -d:)
if [ "$cols" = "" ]
then
cols=$(getcolumns $table)
fi
ssh $host rm $mysqlfiles/$table.csv
cat <<EOF | mysql --host $host -u$user --password=$password $database
SELECT $cols FROM $table INTO OUTFILE '$mysqlfiles$table.csv'
FIELDS TERMINATED BY ','
ENCLOSED BY '"'
LINES TERMINATED BY '\n';
EOF
scp $host:$mysqlfiles/$table.csv $csvoutput$table.csv.raw
(echo "$cols"; cat $csvoutput$table.csv.raw) > $csvoutput$table.csv
rm $csvoutput$table.csv.raw
done
;;
esac
如果在尝试导出文件时遇到此错误
错误1290(HY000):MySQL服务器正在使用--secure-file-priv选项运行,因此它无法执行此语句
您将无法解决此错误。您可以通过简单地运行此python脚本来做一件事
import mysql.connector
import csv
con = mysql.connector.connect(
host="localhost",
user="root",
passwd="Your Password"
)
cur = con.cursor()
cur.execute("USE DbName")
cur.execute("""
select col1,col2 from table
where <cond>
""")
with open('Filename.csv',mode='w') as data:
fieldnames=["Field1","Field2"]
writer=csv.DictWriter(data,fieldnames=fieldnames)
writer.writeheader()
for i in cur:
writer.writerow({'Field1':i[0],'Field2':i[1]})
如果您正在使用的计算机上安装了PHP,则可以编写一个PHP脚本来执行此操作。它要求PHP安装中已安装MySQL扩展。
您可以从命令行调用PHP解释器,如下所示:
php --php-ini path/to/php.ini your-script.php
我包括该--php-ini
开关,因为您可能需要使用自己的PHP配置来启用MySQL扩展。在PHP 5.3.0+上,默认情况下启用该扩展,因此不再需要使用配置来启用它。
然后,您可以像任何普通的PHP脚本一样编写导出脚本:
<?php
#mysql_connect("localhost", "username", "password") or die(mysql_error());
mysql_select_db("mydb") or die(mysql_error());
$result = mysql_query("SELECT * FROM table_with_the_data p WHERE p.type = $typeiwant");
$result || die(mysql_error());
while($row = mysql_fetch_row($result)) {
$comma = false;
foreach ($row as $item) {
# Make it comma separated
if ($comma) {
echo ',';
} else {
$comma = true;
}
# Quote the quotes
$quoted = str_replace("\"", "\"\"", $item);
# Quote the string
echo "\"$quoted\"";
}
echo "\n";
}
?>
此方法的优点是,对于包含包含换行符的文本的varchar和text字段,它没有问题。那些字段被正确引用,并且其中的那些换行符将由CSV阅读器解释为文本的一部分,而不是记录分隔符。事后用sed很难纠正。
REPLACE()
在查询中使用引号转义。