AWS Glue ImportError: cannot import name explode_outer

AWS Glue ImportError: cannot import name explode_outer

当我尝试 运行 AWS Glue 中的 Spark 作业时,出现以下错误。

ImportError: cannot import name explode_outer

如果我 运行 在本地 spark 设置中使用相同的代码,一切正常。

这就是我在代码中导入 explode_outer 的方式。

from pyspark.sql.functions import explode_outer

A​​WS Glue 中有包限制吗?

AWS Glue 目前支持 Apache Spark 2.2.1。提到的功能从 2.3 版本开始提供。

最好在本地设置中使用 Apache Spark 2.2.1。您可以编写自己版本的 explode_outer() 方法