s5cmd,比s3cmd更快的s3协议客户端


今天使用s3cmd上传文件,因为s3cmd是单线程的,当文件非常多且小,速度堪忧。网上的方法也无外乎多开几个cmd上传。

后来发现s5cmd工具,(https://github.com/peak/s5cmd),可以多线程运行,速度灰常的快。

使用方式如下:

在/root/目录下新建.aws目录

在.aws目录下,新建,config、credentials文件

config文件:

[default]
output = json
region = us-west-1

credentials文件:

[default]
aws_access_key_id = XXXXXX
aws_secret_access_key = XXXXX

然后可以执行:

 ./s5cmd  --stat  --numworkers=70 --endpoint-url=s3.us-west-1.xxx.com  cp ./dir/ s3://bucketName/
--numworkers 可以开多个线程
--endpoint-url 如果不是使用的aws的s3,则指定一下 url


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM