什么代表 Cloud Build 中的 STEP
What represents a STEP in Cloud Build
实际上我正在研究一个管道,直到那里都很好,因为它已经起作用了。但是当我想解释时,我不清楚每个步骤在物理上代表什么,例如步骤“可能”是 cluster.Please 中的一个节点,如果有人对此有明确的解释,请向我们解释。
- 步骤示例 1
文件配置云构建:
steps:
- name: "gcr.io/google.com/cloudsdktool/cloud-sdk"
args: ["bin/deploy-dags-composer.sh"]
env:
- 'COMPOSER_BUCKET=${_COMPOSER_BUCKET}'
- 'ARTIFACTS_BUCKET=${_ARTIFACTS_BUCKET}'
id: 'DEPLOY-DAGS-PLUGINS-DEPENDS-STEP'
Bash 文件
#! /bin/bash
gsutil cp bin/plugins/* gs://$COMPOSER_BUCKET/plugins/
gsutil cp bin/dependencies/* gs://$ARTIFACTS_BUCKET/dags/dependencies/
gsutil cp bin/dags/* gs://$COMPOSER_BUCKET/dags/
gsutil cp bin/sql-scripts/* gs://$ARTIFACTS_BUCKET/path/bin/sql-scripts/composer/
- 例2几个步骤
文件配置云构建
steps:
- name: gcr.io/cloud-builders/gsutil
args: ['cp', '*', 'gs://${_COMPOSER_BUCKET}/plugins/']
dir: 'bin/plugins/'
id: 'deploy-plugins-step'
- name: gcr.io/cloud-builders/gsutil
args: ['cp', '*', 'gs://${_ARTIFACTS_BUCKET}/dags/dependencies/']
dir: 'bin/dependencies/'
id: 'deploy-dependencies-step'
- name: gcr.io/cloud-builders/gsutil
args: ['cp', '*', 'gs://${_COMPOSER_BUCKET}/dags/']
dir: 'bin/dags/'
id: 'deploy-dags-step'
- name: gcr.io/cloud-builders/gsutil
args: ['cp', '*', 'gs://${_ARTIFACTS_BUCKET}/projects/path/bin/sql-scripts/composer/']
dir: 'bin/sql-scripts/'
id: 'deploy-scripts-step'
在 Cloud Build 中,一个步骤是处理的一个阶段。此阶段由要加载的容器描述,其中包含在该阶段执行处理所需的二进制文件。
对于这个容器,您可以定义一个入口点,容器内 运行 的二进制文件,以及传递给它的参数。
您还可以看到几个选项here。
需要理解的一个重要概念是只有 /workspace
目录从一个步骤到另一个步骤。在每一步结束时,容器被卸载,你丢失了内存中的所有数据(如环境变量)和存储在 /workspace
目录之外的数据(如系统依赖安装)。请记住这一点,许多问题都来自那里。
编辑 1:
在一个步骤中,您可以开箱即用地在一个容器上执行 运行 1 个命令。 gsutil、gcloud、mvn、node、....一切都取决于您的容器和入口点。
但是当您需要在同一个容器上 运行 许多命令时,有一个有用的高级容量。它的发生可能有多种原因。你可以这样做
- name: 'gcr.io/cloud-builders/gcloud'
entrypoint: 'bash'
args:
- -c
- |
MY_ENV_VAR=$(curl -H "Metadata-Flavor: Google" http://metadata.google.internal/computeMetadata/v1/instance)
echo $${MY_ENV_VAR} > env-var-save.file
# Continue the commands that you need/want ....
实际上我正在研究一个管道,直到那里都很好,因为它已经起作用了。但是当我想解释时,我不清楚每个步骤在物理上代表什么,例如步骤“可能”是 cluster.Please 中的一个节点,如果有人对此有明确的解释,请向我们解释。
- 步骤示例 1
文件配置云构建:
steps:
- name: "gcr.io/google.com/cloudsdktool/cloud-sdk"
args: ["bin/deploy-dags-composer.sh"]
env:
- 'COMPOSER_BUCKET=${_COMPOSER_BUCKET}'
- 'ARTIFACTS_BUCKET=${_ARTIFACTS_BUCKET}'
id: 'DEPLOY-DAGS-PLUGINS-DEPENDS-STEP'
Bash 文件
#! /bin/bash
gsutil cp bin/plugins/* gs://$COMPOSER_BUCKET/plugins/
gsutil cp bin/dependencies/* gs://$ARTIFACTS_BUCKET/dags/dependencies/
gsutil cp bin/dags/* gs://$COMPOSER_BUCKET/dags/
gsutil cp bin/sql-scripts/* gs://$ARTIFACTS_BUCKET/path/bin/sql-scripts/composer/
- 例2几个步骤
文件配置云构建
steps:
- name: gcr.io/cloud-builders/gsutil
args: ['cp', '*', 'gs://${_COMPOSER_BUCKET}/plugins/']
dir: 'bin/plugins/'
id: 'deploy-plugins-step'
- name: gcr.io/cloud-builders/gsutil
args: ['cp', '*', 'gs://${_ARTIFACTS_BUCKET}/dags/dependencies/']
dir: 'bin/dependencies/'
id: 'deploy-dependencies-step'
- name: gcr.io/cloud-builders/gsutil
args: ['cp', '*', 'gs://${_COMPOSER_BUCKET}/dags/']
dir: 'bin/dags/'
id: 'deploy-dags-step'
- name: gcr.io/cloud-builders/gsutil
args: ['cp', '*', 'gs://${_ARTIFACTS_BUCKET}/projects/path/bin/sql-scripts/composer/']
dir: 'bin/sql-scripts/'
id: 'deploy-scripts-step'
在 Cloud Build 中,一个步骤是处理的一个阶段。此阶段由要加载的容器描述,其中包含在该阶段执行处理所需的二进制文件。
对于这个容器,您可以定义一个入口点,容器内 运行 的二进制文件,以及传递给它的参数。
您还可以看到几个选项here。
需要理解的一个重要概念是只有 /workspace
目录从一个步骤到另一个步骤。在每一步结束时,容器被卸载,你丢失了内存中的所有数据(如环境变量)和存储在 /workspace
目录之外的数据(如系统依赖安装)。请记住这一点,许多问题都来自那里。
编辑 1:
在一个步骤中,您可以开箱即用地在一个容器上执行 运行 1 个命令。 gsutil、gcloud、mvn、node、....一切都取决于您的容器和入口点。
但是当您需要在同一个容器上 运行 许多命令时,有一个有用的高级容量。它的发生可能有多种原因。你可以这样做
- name: 'gcr.io/cloud-builders/gcloud'
entrypoint: 'bash'
args:
- -c
- |
MY_ENV_VAR=$(curl -H "Metadata-Flavor: Google" http://metadata.google.internal/computeMetadata/v1/instance)
echo $${MY_ENV_VAR} > env-var-save.file
# Continue the commands that you need/want ....