ml-engine HP优化可以在本地运行吗?

Can ml-engine HP optimization be run locally?

我正在尝试使用本地服务器上的 ml-engine 为我的模型调整 HP。在我的例子中,模型训练了一次通过,但没有执行 HP 试验。这是配置问题,还是本地模式不支持 HP 优化?

我的本地命令:

gcloud ml-engine local train --package-path $PWD --module-name example.train --configuration example/hpconfig.yaml -- --param1 16 --param2 2

我的配置文件:

trainingInput:
  workerCount: 1
  hyperparameters:
    goal: MINIMIZE
    hyperparameterMetricTag: val_loss
    maxTrials: 10
    maxParallelTrials: 1
    enableTrialEarlyStopping: True
    params:
    - parameterName: param1
      type: INTEGER
      minValue: 4
      maxValue: 128
      scaleType: UNIT_LINEAR_SCALE
    - parameterName: param2
      type: INTEGER
      minValue: 1
      maxValue: 4
      scaleType: UNIT_LINEAR_SCALE

遗憾的是,HP Tuning 无法在本地模式下 运行。我会推荐这样的工作流程:

  1. 运行 在本地使用小数据等,以确保一切正常(我建议使用 GCS 路径)。
  2. 运行 云上的小测试(单个作业)以确保依赖项正确,数据文件正确指向 GCS 而不是本地等。
  3. 运行 一项 HP 调整作业。

一旦 1 和 2 起作用,通常 3 也会起作用。

另外,作为旁注。 Kubeflow 支持 Katib 来自任何 kubernetes 部署的 运行ning HP 调整作业,包括 Minikube(用于本地开发)。