ml-engine HP优化可以在本地运行吗?
Can ml-engine HP optimization be run locally?
我正在尝试使用本地服务器上的 ml-engine 为我的模型调整 HP。在我的例子中,模型训练了一次通过,但没有执行 HP 试验。这是配置问题,还是本地模式不支持 HP 优化?
我的本地命令:
gcloud ml-engine local train --package-path $PWD --module-name example.train --configuration example/hpconfig.yaml -- --param1 16 --param2 2
我的配置文件:
trainingInput:
workerCount: 1
hyperparameters:
goal: MINIMIZE
hyperparameterMetricTag: val_loss
maxTrials: 10
maxParallelTrials: 1
enableTrialEarlyStopping: True
params:
- parameterName: param1
type: INTEGER
minValue: 4
maxValue: 128
scaleType: UNIT_LINEAR_SCALE
- parameterName: param2
type: INTEGER
minValue: 1
maxValue: 4
scaleType: UNIT_LINEAR_SCALE
遗憾的是,HP Tuning 无法在本地模式下 运行。我会推荐这样的工作流程:
- 运行 在本地使用小数据等,以确保一切正常(我建议使用 GCS 路径)。
- 运行 云上的小测试(单个作业)以确保依赖项正确,数据文件正确指向 GCS 而不是本地等。
- 运行 一项 HP 调整作业。
一旦 1 和 2 起作用,通常 3 也会起作用。
另外,作为旁注。 Kubeflow 支持 Katib 来自任何 kubernetes 部署的 运行ning HP 调整作业,包括 Minikube(用于本地开发)。
我正在尝试使用本地服务器上的 ml-engine 为我的模型调整 HP。在我的例子中,模型训练了一次通过,但没有执行 HP 试验。这是配置问题,还是本地模式不支持 HP 优化?
我的本地命令:
gcloud ml-engine local train --package-path $PWD --module-name example.train --configuration example/hpconfig.yaml -- --param1 16 --param2 2
我的配置文件:
trainingInput:
workerCount: 1
hyperparameters:
goal: MINIMIZE
hyperparameterMetricTag: val_loss
maxTrials: 10
maxParallelTrials: 1
enableTrialEarlyStopping: True
params:
- parameterName: param1
type: INTEGER
minValue: 4
maxValue: 128
scaleType: UNIT_LINEAR_SCALE
- parameterName: param2
type: INTEGER
minValue: 1
maxValue: 4
scaleType: UNIT_LINEAR_SCALE
遗憾的是,HP Tuning 无法在本地模式下 运行。我会推荐这样的工作流程:
- 运行 在本地使用小数据等,以确保一切正常(我建议使用 GCS 路径)。
- 运行 云上的小测试(单个作业)以确保依赖项正确,数据文件正确指向 GCS 而不是本地等。
- 运行 一项 HP 调整作业。
一旦 1 和 2 起作用,通常 3 也会起作用。
另外,作为旁注。 Kubeflow 支持 Katib 来自任何 kubernetes 部署的 运行ning HP 调整作业,包括 Minikube(用于本地开发)。