Python中文
首页
教程
问答
标签
搜索
登录
注册
从大量S3下载文件
回答此问题可获得
20
贡献值,回答如果被采纳可获得
50
分。
<p>从amazons3从Python获取大量文件(相对较小的10-50kB)的最快方法是什么?(以200000万个文件的顺序排列)。在</p> <p>目前,我使用boto生成签名的url,并使用PyCURL逐个获取文件。在</p> <p>某种类型的并发有帮助吗?PyCurl.CurlMulti反对?在</p> <p>我愿意接受所有的建议。谢谢!在</p>
0 条评论
分类:
Python问答
请先
登录
后评论
默认排序
时间排序
1 个回答
匿名
1天前
擅长:python、mysql、java
<p>我对python一无所知,但一般来说,您需要将任务分解成更小的块,以便它们可以并发运行。您可以按文件类型、字母或其他方式对其进行分解,然后为分解的每个部分运行单独的脚本。在</p>
请先
登录
后评论
针对此问题:
更多的回答
关注
89
关注
收藏
1
收藏,
216
浏览
网友 提问于 2天前
相关Python问题
尽管Python中的所有内容都是引用,为什么Python导师在没有指针的列表中绘制字符串和整数?
2 回答
尽管python中的表达式为false,但循环仍在运行
1 回答
尽管python代码正确,但从nifi ExecuteScript处理器获取语法错误
3 回答
尽管Python在Neovim中工作得很好,但插件不能识别Neovim中的Python主机
8 回答
尽管python字典包含了大量的条目,但它并没有增长
7 回答
尽管python说模块存在,为什么我会得到这个消息?
5 回答
尽管setuptools和控制盘是最新的,但无法识别singleversionexternallymanaged
7 回答
尽管stdout和stderr重定向,但未捕获错误消息
9 回答
尽管Tensorboard的事件太大,但Tensorboard的步骤太少了
10 回答
尽管tkinter上的变量已更改,但显示未更改
3 回答
尽管try/except使用Python进行单元测试时出现断言错误
4 回答
尽管URL是sam,但仍会抛出“达到最大重定向”
9 回答
尽管url有效,Pandas仍读取url的\u csv错误
5 回答
尽管while中存在时间延迟,但LINUX线程的CPU利用率为100%(1)
5 回答
尽管x0在范围内,Scipy优化仍会引发ValueError
4 回答
尽管xpath正确,但使用selenium单击链接仍不起作用
9 回答
尽管下载了ffmpeg并设置了路径变量python,但没有后端错误
1 回答
尽管下载了i,但找不到型号“fr”
4 回答
尽管下载了plotnine包,但未获取名为“plotnine”的模块时出错
10 回答
尽管为所有行指定了权重,网格(0)仍不起作用
10 回答