如何重命名现有的 Spark SQL 函数

Question

我正在使用 Spark 对用户提交的数据调用函数。

如何将已存在的函数重命名为不同的名称，例如 REGEXP_REPLACE 至 REPLACE？

我尝试了以下代码：

ss.udf.register("REPLACE", REGEXP_REPLACE)           // This doesn't work
ss.udf.register("sum_in_all", sumInAll)
ss.udf.register("mod", mod)
ss.udf.register("average_in_all", averageInAll)

Answer 1

使用别名导入：

import org.apache.spark.sql.functions.{regexp_replace => replace }
df.show
+---+
| id|
+---+
|  0|
|  1|
|  2|
|  3|
|  4|
|  5|
|  6|
|  7|
|  8|
|  9|
+---+

df.withColumn("replaced", replace($"id", "(\d)" , "+1") ).show

+---+--------+
| id|replaced|
+---+--------+
|  0|     0+1|
|  1|     1+1|
|  2|     2+1|
|  3|     3+1|
|  4|     4+1|
|  5|     5+1|
|  6|     6+1|
|  7|     7+1|
|  8|     8+1|
|  9|     9+1|
+---+--------+

要使用 Spark SQL，您必须使用不同的名称在 Hive 中重新注册该函数：

sqlContext.sql(" create temporary function replace 
                 as 'org.apache.hadoop.hive.ql.udf.UDFRegExpReplace' ")

sqlContext.sql(""" select replace("a,b,c", "," ,".") """).show
+-----+
|  _c0|
+-----+
|a.b.c|
+-----+

如何重命名现有的 Spark SQL 函数

How to rename an existing Spark SQL function

user-defined-functions

apache-spark

apache-spark-sql