AWS Glue 作业中的资源不可用错误
Resource Unavailable Error in AWS Glue Job
我们正在使用 AWS Glue 服务将 json 文件转换为镶木地板。间歇性 Glue 作业因资源不可用错误而失败。
谁能帮我们解决这个问题?
我也经历过几次 "Resource unavailable" 异常,但这是他们的(服务),他们正在积极努力改进它。
我已经就此异常打开了支持票,他们说:
Glue creates a new spark environment at the backend in order to run
the jobs submitted depending on account ID, IAM role, subnetID and
security groups. Running the Glue jobs under different IAM user may help to mitigate this issue. By doing this, Glue creates a new spark environment at the backend in order to run the jobs submitted by different IAM role or different accountID.
因此,如果您的帐户同时有多个作业 运行 并且 "Resource unavailable" 错误不断出现,我建议您创建不同的 IAM 角色并在它们之间拆分作业以缓解此特定问题.
这仍然是一个持续的问题。对于我的设置,RDS 连接的子网所在的可用性区域。"fix" 是:
- AWS 控制台 > Glue > 连接 > 编辑连接 > 查看连接正在使用哪个子网。
- AWS 控制台 > VPC > 子网 > 识别(或创建)不同区域中的子网。
- AWS 控制台 > Glue > 连接 > 编辑连接 > 切换为使用第 2 步中的子网。
- 运行 工作。
如果作业仍然因资源不可用而失败,请重复直到成功。
我最近遇到了 Glue Job 抛出的 Resource Unavailable 问题
我也无法使用 RDS 在 Glue 中建立直接连接 - 它说 "no suitable security group found"
我在尝试使用 Glue Job 连接 AWS RDS 时遇到了这个问题。
问题出在 RDS 使用的安全组上。需要在安全组中放置自引用入站规则。
不知道什么是self-referenceing inbound rule的朋友,请按以下步骤操作
1) 转到您正在使用的安全组(VPC -> 安全组)
2) 在入站规则中 select 编辑入站规则
3) 添加规则
a) 类型 - 所有流量
b) 协议 - 全部
c) 端口范围 - 全部
d) 来源 - 自定义并在 space 可用的地方写下你的安全组的首字母和 select 它。
e) 保存。
完成了!
如果您的安全组入站规则中缺少此条件
尝试创建连接,您将能够创建连接。
这次作业也应该可以了。
我们正在使用 AWS Glue 服务将 json 文件转换为镶木地板。间歇性 Glue 作业因资源不可用错误而失败。 谁能帮我们解决这个问题?
我也经历过几次 "Resource unavailable" 异常,但这是他们的(服务),他们正在积极努力改进它。
我已经就此异常打开了支持票,他们说:
Glue creates a new spark environment at the backend in order to run the jobs submitted depending on account ID, IAM role, subnetID and security groups. Running the Glue jobs under different IAM user may help to mitigate this issue. By doing this, Glue creates a new spark environment at the backend in order to run the jobs submitted by different IAM role or different accountID.
因此,如果您的帐户同时有多个作业 运行 并且 "Resource unavailable" 错误不断出现,我建议您创建不同的 IAM 角色并在它们之间拆分作业以缓解此特定问题.
这仍然是一个持续的问题。对于我的设置,RDS 连接的子网所在的可用性区域。"fix" 是:
- AWS 控制台 > Glue > 连接 > 编辑连接 > 查看连接正在使用哪个子网。
- AWS 控制台 > VPC > 子网 > 识别(或创建)不同区域中的子网。
- AWS 控制台 > Glue > 连接 > 编辑连接 > 切换为使用第 2 步中的子网。
- 运行 工作。
如果作业仍然因资源不可用而失败,请重复直到成功。
我最近遇到了 Glue Job 抛出的 Resource Unavailable 问题
我也无法使用 RDS 在 Glue 中建立直接连接 - 它说 "no suitable security group found"
我在尝试使用 Glue Job 连接 AWS RDS 时遇到了这个问题。
问题出在 RDS 使用的安全组上。需要在安全组中放置自引用入站规则。
不知道什么是self-referenceing inbound rule的朋友,请按以下步骤操作
1) 转到您正在使用的安全组(VPC -> 安全组)
2) 在入站规则中 select 编辑入站规则
3) 添加规则
a) 类型 - 所有流量 b) 协议 - 全部 c) 端口范围 - 全部 d) 来源 - 自定义并在 space 可用的地方写下你的安全组的首字母和 select 它。 e) 保存。
完成了!
如果您的安全组入站规则中缺少此条件
尝试创建连接,您将能够创建连接。
这次作业也应该可以了。