向MongoDB上传超过1000000个项目的最佳方式是什么

2024-10-06 11:24:05 发布

您现在位置:Python中文网/ 问答频道 /正文

我有超过1000000个单词要保存到数据库中,当然,在那篇文章中有很多相同的单词。我用了很多方法使它尽可能快,我可以,但每次我尝试MongoDB减少上升到DB。因为我刚开始和MongoDB合作。向MongoDB上传超过1000000个项目的最快方法是什么?你知道吗

我正试图用无序的批量操作来提高效率。当python应用程序启动时,它插入8000个条目的速度非常快,但是插入的速度大大降低。你知道吗

 bulk = symbols.initialize_unordered_bulk_op();
 for i in dataset:
     bulk.find({'name': i}).upsert().update({'$inc': {'freq': 1}})
 try:
    bulk.execute()
 except BulkWriteError as bwe:
    print bwe.details
 con.close()

Tags: 项目方法数据库应用程序dbmongodbbulk批量
1条回答
网友
1楼 · 发布于 2024-10-06 11:24:05

谢谢你的推荐,救了我的命。在我插入到MongoDB的每个数据块之后,我都做了索引,一切都变得如此之快。你知道吗

<collection_name>.create_index([("name", pymongo.ASCENDING)], unique=True) 

相关问题 更多 >