java如何遍历庞大目录的目录树并忽略文件
我需要在网络驱动器上遍历一个目录,并在层次结构中创建一个从子目录到父目录的映射。一个具有代表性的目录是6TerraBytes,有900000个文件和900个文件夹。我只关心文件夹,不关心文件。出于测试目的,我将没有文件的文件夹复制到另一个网络驱动器,并在复制的版本上运行代码。只需迭代900个文件夹可能需要10秒钟。但是,在原始目录结构上迭代需要30分钟。看起来我们正在遍历所有900000个文件,尽管我们只是忽略了它们
有没有办法通过不看文件来加快速度?如果可以的话,我更愿意使用纯Java。当通过Windows资源管理器浏览这个巨大的目录时,它一点也不觉得慢。我的代码如下
public static Map<String, String> findFolderPaths(File parentFolder) throws IOException {
Map<String, String> parentFolderMap = new HashMap<String, String>();
Files.walkFileTree(parentFolder.toPath(), new FolderMappingFileVisitor(parentFolderMap));
return parentFolderMap;
}
static class FolderMappingFileVisitor extends SimpleFileVisitor<Path> {
private Map<String, String> mapping;
FolderMappingFileVisitor(Map<String, String> map) {
this.mapping = map;
}
@Override
public FileVisitResult preVisitDirectory(Path dir,
BasicFileAttributes attrs) throws IOException {
File directory = dir.toFile();
mapping.put(directory.getName(), directory.getParent());
return FileVisitResult.CONTINUE;
}
}
编辑:
我没有提到的一个重要问题是,我们正在webstart中运行该应用程序。我报告的时间是从生产,而不是开发。从Eclipse运行时,时间比我对FileWalker的期望要多
# 1 楼答案
您使用的方法是获取基本文件属性,我怀疑这是在访问每个文件的文件描述信息
如果您只需要名称,我建议您反复/递归地调用文件。listFiles();这应该只获得你要求的信息
差不多
正如你所看到的,它不会做任何你不需要它做的事情
# 2 楼答案
文件漫游器的工作速度似乎比文件快得多。listFiles()。问题似乎是JavaWebStart。当我在JavaWebStart下运行应用程序时,大约需要30分钟。当我从Eclipse运行应用程序时,需要几分钟的时间。JavaWebStart正在扼杀我们的性能
这个应用程序是一个数据/io密集型应用程序,我注意到过去在Webstart下运行这个应用程序时存在其他问题。解决方案是从JavaWebStart迁移出去