2024-05-20 13:36:01 发布
网友
我编写了Heron拓扑,它从本地文件夹获取数据并进行处理。但是,heron无法看到除.pex文件中描述的文件夹之外的任何其他文件夹。如何读取.pex声明文件夹之外的数据
理想情况下,您不会依赖拓扑中的本地数据。最好将您需要访问的任何数据放在外部系统中,如数据库或key:value存储。然后,您可以查询(并在内存中本地缓存)该数据。如果需要添加每个螺栓的更多副本,这还具有更好的伸缩性,因为可以避免本地文件上可能的资源争用
如果您真的希望螺栓可以在本地访问数据,那么答案取决于您使用的调度器。它可能涉及将文件添加到调度器使用的heron实例容器映像中,也可能意味着每次更改数据时都要重建容器。同样,我建议使用外部数据存储
一旦启动heron实例,它应该可以访问同一容器中的文件。例如,他们可以将日志写入./logs/INSTANCE_ID.log,这意味着它具有对这些文件的写访问权限
您能否检查数据文件是否在正在运行的容器中可用,以及实例是否使用正确的文件路径访问这些文件
理想情况下,您不会依赖拓扑中的本地数据。最好将您需要访问的任何数据放在外部系统中,如数据库或key:value存储。然后,您可以查询(并在内存中本地缓存)该数据。如果需要添加每个螺栓的更多副本,这还具有更好的伸缩性,因为可以避免本地文件上可能的资源争用
如果您真的希望螺栓可以在本地访问数据,那么答案取决于您使用的调度器。它可能涉及将文件添加到调度器使用的heron实例容器映像中,也可能意味着每次更改数据时都要重建容器。同样,我建议使用外部数据存储
一旦启动heron实例,它应该可以访问同一容器中的文件。例如,他们可以将日志写入./logs/INSTANCE_ID.log,这意味着它具有对这些文件的写访问权限
您能否检查数据文件是否在正在运行的容器中可用,以及实例是否使用正确的文件路径访问这些文件
相关问题 更多 >
编程相关推荐