Python中文
首页
教程
问答
标签
搜索
登录
注册
读取S3拼花地板表的最后N行
回答此问题可获得
20
贡献值,回答如果被采纳可获得
50
分。
<p>如果我应用所讨论的<a href="https://stackoverflow.com/questions/45043554/how-to-read-a-list-of-parquet-files-from-s3-as-a-pandas-dataframe-using-pyarrow">here</a>来读取S3 buck-to-pandas数据帧中的拼花地板文件,特别是:</p> <pre><code>import pyarrow.parquet as pq import s3fs s3 = s3fs.S3FileSystem() pandas_dataframe = pq.ParquetDataset('s3://your-bucket/', filesystem=s3).read_pandas().to_pandas() </code></pre> <p>当表随着时间的推移越来越大,我需要定期进行检索时,我只想将最后N行读入数据帧。这可能吗</p>
0 条评论
分类:
Python问答
请先
登录
后评论
默认排序
时间排序
1 个回答
匿名
1天前
擅长:python、mysql、java
<p>不,仅使用S3是不可能的。S3是一个对象存储,它允许您仅存储、检索、更新“整个”对象,即文件</p> <p>说到这里,您应该看看Athena,它是一种无服务器查询服务,可以轻松地使用标准SQL分析AmazonS3中存储的大量数据。它应该让你做你想做的事</p> <p>最好的,Stefan</p>
请先
登录
后评论
针对此问题:
更多的回答
关注
89
关注
收藏
1
收藏,
216
浏览
网友 提问于 2天前
相关Python问题
尽管Python中的所有内容都是引用,为什么Python导师在没有指针的列表中绘制字符串和整数?
3 回答
尽管python中的表达式为false,但循环仍在运行
2 回答
尽管python代码正确,但从nifi ExecuteScript处理器获取语法错误
3 回答
尽管Python在Neovim中工作得很好,但插件不能识别Neovim中的Python主机
3 回答
尽管python字典包含了大量的条目,但它并没有增长
8 回答
尽管python说模块存在,为什么我会得到这个消息?
8 回答
尽管setuptools和控制盘是最新的,但无法识别singleversionexternallymanaged
8 回答
尽管stdout和stderr重定向,但未捕获错误消息
5 回答
尽管Tensorboard的事件太大,但Tensorboard的步骤太少了
1 回答
尽管tkinter上的变量已更改,但显示未更改
10 回答
尽管try/except使用Python进行单元测试时出现断言错误
7 回答
尽管URL是sam,但仍会抛出“达到最大重定向”
6 回答
尽管url有效,Pandas仍读取url的\u csv错误
8 回答
尽管while中存在时间延迟,但LINUX线程的CPU利用率为100%(1)
5 回答
尽管x0在范围内,Scipy优化仍会引发ValueError
9 回答
尽管xpath正确,但使用selenium单击链接仍不起作用
5 回答
尽管下载了ffmpeg并设置了路径变量python,但没有后端错误
2 回答
尽管下载了i,但找不到型号“fr”
8 回答
尽管下载了plotnine包,但未获取名为“plotnine”的模块时出错
1 回答
尽管为所有行指定了权重,网格(0)仍不起作用
1 回答