可扩展的异步神经结构和深度神经网络的超参数搜索。
deephyper的Python项目详细描述
什么是深超?
deephyper是一个用于深层神经网络的自动机器学习(AutoML)软件包。它包括两个部分:1)神经结构搜索是一种自动搜索高性能深层神经网络的方法。 建筑。2)超参数搜索是一种自动搜索给定深度神经网络高性能超参数的方法。deephyper提供了一个基础设施,以神经架构的实验研究为目标 以及超参数搜索方法、可伸缩性和跨hpc系统的可移植性。它包括三个模块: 基准,一组可扩展的和多样的基准问题; 搜索,一组用于神经结构搜索和超参数搜索的搜索算法; 和evaluators,一个用于评估超参数配置的通用接口 在HPC平台上。
文档
deephyper文档位于ReadTheDocs
安装说明
来自PIP:
pip install deephyper
来自github:
git clone https://github.com/deephyper/deephyper.git
cd deephyper/
pip install -e .
如果要安装带有测试和文档包的Deephyper:
# From Pypi
pip install 'deephyper[tests,docs]'
# From github
git clone https://github.com/deephyper/deephyper.git
cd deephyper/
pip install -e '.[tests,docs]'
目录结构
benchmark/
a set of problems for hyperparameter or neural architecture search which the user can use to compare our different search algorithms or as examples to build their own problems.
evaluator/
a set of objects which help to run search on different systems and for different cases such as quick and light experiments or long and heavy runs.
search/
a set of algorithms for hyperparameter and neural architecture search. You will also find a modular way to define new search algorithms and specific sub modules for hyperparameter or neural architecture search.
hps/
hyperparameter search applications
nas/
neural architecture search applications
我怎样才能学到更多?
快速启动
超参数搜索(HPS)
python -m deephyper.search.hps.ambs --problem deephyper.benchmark.hps.polynome2.Problem --run deephyper.benchmark.hps.polynome2.run
神经架构搜索(NAS)
python -m deephyper.search.nas.ppo_a3c_sync --problem deephyper.benchmark.nas.mnist1D.problem.Problem --run deephyper.search.nas.model.run.alpha.run
谁负责?
目前,Deephyper的核心团队在阿贡国家实验室:
- Prasanna Balaprakashpbalapra@anl.gov,领导和创始人
- 罗马埃格尔regele@anl.gov
- 米沙·萨利姆msalim@anl.gov
- 维什瓦纳特venkat@anl.gov
- 斯特凡野生wild@anl.gov
模块、补丁(代码、文档等)由:
- 伊莉丝·詹宁斯ejennings@anl.gov
- 迪潘德拉·库马尔·贾亚dipendrajha2018@u.northwestern.edu
引用deephyper
如果您在出版物中引用了Deephyper,请引用以下文章:
- 巴拉普拉卡什、萨利姆、乌拉姆、维什瓦纳特和S.M.怀尔德。deephyper:deep神经网络的异步超参数搜索。 在第25届ieee高性能计算、数据和分析国际会议上。IEEE,2018年。
我如何参与?
问题、评论、功能请求、错误报告等可以指向:
有关GitHub的问题
补丁程序在软件本身和文档中都很受欢迎。 或者,请在您的第一个补丁中包括您自己在 上面列出。
deephyper团队使用git流组织开发:Git-Flow cheatsheet。对于测试,我们使用:Pytest。
致谢
- 美国能源部2018年科学领域可扩展数据高效学习早期职业奖,由美国能源部科学办公室高级科学计算研究计划资助(2018年至今)
- 阿贡领导力计算设施(2018年至今)
- SLik-D:可扩展的机器学习基础设施,用于知识发现、阿贡计算、环境与生命科学(CELS)实验室指导研究与开发(LDRD)计划(2016-2018年)
版权和许可
版权所有©2019,Uchicago Argonne,LLC
Deephyper是根据BSD许可条款发行的。见LICENSE
阿贡专利和知识产权文件编号:SF-19-007