我可以在哪里放置 SQL 代码以在 AWS Data Pipeline 中放置 table？

Question

我需要添加一些 SQL 代码以在数据管道中删除 Redshift table。我可以把它放在一个特定的领域吗？我可以将它放在 Create Table SQL 字段中吗？

Answer 1

你能在你的 activity 上添加更多上下文吗？

您可以通过 ShellCommandActivity 运行 任意命令。

示例：

出错时退出脚本

设置-e

1。安装 PSQL 客户端

sudo yum install postgresql93 -y

2。 运行 Redshift 中 $RedShiftFile 中的 sql 语句

导出 PGPASSWORD=$REDPwd psql -h $RedShiftHost -p $RedShiftPort -U $RedShiftUsr -d $RedShiftDb -f $RedShiftFile

Answer 2

您能否在您的 activity 中添加更多上下文？

您可以通过 ShellCommandActivity 运行 任意命令。

示例：

//错误退出脚本 设置-e

//1。安装 PSQL 客户端 sudo yum install postgresql93 -y

//2。 运行 Redshift $RedShiftFile 中的 sql 语句 导出 PGPASSWORD=$REDPwd psql -h $RedShiftHost -p $RedShiftPort -U $RedShiftUsr -d $RedShiftDb -f $RedShiftFile

Answer 3

您应该可以在它的 'database' 字段中使用 SQL activity for this. Attach Redshift Database 并使用 'script' 字段删除所需的 table.

示例：

{
  "id" : "MySqlActivity",
  "type" : "SqlActivity",
  "database" : { "ref": "MyRedshiftDatabase" },
  "script" : "... drop table or any arbitrary sql query ... ",
  "schedule" : { "ref": "Hour" },
  "queue" : "priority"
},
{
  "id" : "MyRedshiftDatabase",
  "type" : "RedshiftDatabase",
  "clusterId" : "clusterId",
  "username" : "user_name",
  "*password" : "my_password",
  "databaseName" : "database_name"
}