Pandas append非常慢,无法使用from_dict

2024-09-25 08:31:54 发布

您现在位置:Python中文网/ 问答频道 /正文

我需要附加数据帧。但是我发现append非常慢。这个链接Improve Row Append Performance On Pandas DataFrames建议使用from_dict而不是append。我试着做同样的事情,但我遇到了一个问题,将数据帧转换为dict,然后再从dict转换回数据帧

我有这个数据框

        date   open   high    low  close  volume  average  barCount simb
0  3/31/2020  81.43  81.49  78.56  78.91  183417  80.0940     86742  xdt
1   4/1/2020  77.00  77.38  75.35  76.57   91420  76.4395     49399  xdt
2   4/2/2020  76.12  79.66  76.00  79.44   75298  78.4080     40614  xdt
3   4/3/2020  78.79  79.99  78.18  79.45   64965  79.0490     37140  xdt
4   4/6/2020  81.08  83.12  79.60  82.73   89395  81.3605     46247  xdt
5   4/7/2020  83.45  84.48  81.76  81.93   77722  83.3980     43947  xdt
6   4/8/2020  82.50  85.39  81.05  84.95   66202  83.4955     40256  xdt
7   4/9/2020  85.00  86.50  82.95  86.04   80298  85.1100     46184  xdt
8  4/13/2020  86.32  86.48  83.52  85.85   48114  85.1790     27280  xdt
9  4/14/2020  87.00  89.54  86.50  89.14   75528  88.4410     42810  xdt

我有几千个这样的数据帧。我需要将它们转换为dict,然后将它们全部转换回链接上显示的数据帧

我的代码

d = {} 
i=0
d[i] =df.to_dict( 'index')
pd.DataFrame.from_dict(d, 'index')

我无法使用此代码获得正确的数据帧。我使用了不同的选项,而不是“索引”选项,但它没有帮助。如果有人能帮我写代码,我将不胜感激


Tags: 数据代码frompandasindex链接on选项
1条回答
网友
1楼 · 发布于 2024-09-25 08:31:54

将所有数据帧读入列表

from glob import glob

dfs = [pd.read_csv(file) for file in glob('*.csv')]

然后使用pd.concat

big_df = pd.concat(dfs)

注意:glob('*.csv')读取当前工作目录中的所有csv文件

相关问题 更多 >