访问Heron中的本地文件夹

2024-05-20 13:36:01 发布

您现在位置:Python中文网/ 问答频道 /正文

我编写了Heron拓扑,它从本地文件夹获取数据并进行处理。但是,heron无法看到除.pex文件中描述的文件夹之外的任何其他文件夹。如何读取.pex声明文件夹之外的数据


Tags: 文件数据文件夹声明pexheron
2条回答

理想情况下,您不会依赖拓扑中的本地数据。最好将您需要访问的任何数据放在外部系统中,如数据库或key:value存储。然后,您可以查询(并在内存中本地缓存)该数据。如果需要添加每个螺栓的更多副本,这还具有更好的伸缩性,因为可以避免本地文件上可能的资源争用

如果您真的希望螺栓可以在本地访问数据,那么答案取决于您使用的调度器。它可能涉及将文件添加到调度器使用的heron实例容器映像中,也可能意味着每次更改数据时都要重建容器。同样,我建议使用外部数据存储

一旦启动heron实例,它应该可以访问同一容器中的文件。例如,他们可以将日志写入./logs/INSTANCE_ID.log,这意味着它具有对这些文件的写访问权限

您能否检查数据文件是否在正在运行的容器中可用,以及实例是否使用正确的文件路径访问这些文件

相关问题 更多 >