Numpy mmap和kubernetes RAM限制

2024-05-19 10:08:45 发布

您现在位置:Python中文网/ 问答频道 /正文

我试图在kubernetes集群上加载一个大的(~40GB)文件,这个集群允许很高的短期内存使用,但无限期地降低。我有24GB的“请求”内存,限制要高得多。np.load()检测到内存资源是可用的,因此它会自动将整个文件加载到RAM中(我的理解是numpy会自动使用内存映射,以满足给定可用内存的需要)。因为pod大大超出了请求的内存,所以当其他人请求内存时,它会自动终止。如果我将内存限制设置为较低的值,那么pod将被杀死100米,因为mmap再次没有检测到内存限制,并直接越过了上限。有没有办法在没有大量内存管理的情况下解决这个问题?在


Tags: 文件内存numpynp情况load集群资源

热门问题