Hydra 参数并行扫描例如,Ray Tune

问题描述

我看过最近添加ray_launcher 插件Ax 插件

我想知道:有没有办法使用当前支持插件并行启动参数扫描?我们应该等待“ray_tune”插件能够这样做吗?

非常感谢!

解决方法

您可以混合使用 Launcher 和 Sweeper,并且如果底层 Launcher 支持,作业应该并行运行(Ray Launcher 就是这种情况)。

请记住,Sweeper 本身决定在每次迭代中运行多少作业。不同的 Sweepers 在这里采用不同的策略。

如果您确信在将 Ax Sweeper 与 Ray Launcher 一起使用时事情没有并行运行,请在 Hydra 存储库中打开一个问题。