合并许多大型CSV文件(在Linux中)

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了合并许多大型CSV文件(在Linux中)，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含698字，纯文字阅读大概需要1分钟。

内容图文

我有~500个CSV文件,每个文件有5000行和1000列(~20Mb).我想按列添加它们并保存为大型CSV文件.

之前的帖子部分回答了这个问题
Merge multiple csv files awk column-wise, no match

但有没有办法做到这一点,而不必写出每个文件名？我的文件是顺序名称(例如,X1.csv,X2.csv,X3.csv,…,X500.csv),如果这有帮助的话.

解决方法:

举个例子,假设有三个这样的文件：

$cat X1.csv
A,B
A,B
A,B
$cat X2.csv
C
C
C
$cat X3.csv
D
D
D

我们想要以逗号分隔的格式逐行合并它们,而不是命名每个文件：

$paste -d, X{1..3}.csv
A,B,C,D
A,B,C,D
A,B,C,D

-d,告诉paste在合并文件时使用逗号作为分隔符.在bash下,表达式X {1..3} .csv按数字顺序扩展为文件序列.

如果你有500个这样的文件,命令将是：

 paste -d, X{1..500}.csv

要将输出保存到文件：

 paste -d, X{1..500}.csv >merged.csv

内容总结

以上是互联网集市为您收集整理的合并许多大型CSV文件(在Linux中)全部内容，希望文章能够帮你解决合并许多大型CSV文件(在Linux中)所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端

---