DataConnect 中的自定义过滤器
Custom filter in DataConnect
您可能已经意识到,我经常使用这个 IBM Bluemix DataConnect 服务。创建 activity 时,您可以使用自定义过滤器优化要导出的数据(它启用 WHERE 子句以向查询添加逻辑)
我正在尝试过滤一个 TIMESTAMP 字段,试图获取 1 个月前的数据,但是句子不起作用。
DATE(SHIPMENT_TMS) >= CURRENT DATE - 2 MONTH - (DAY(CURRENT DATE)-1)DAYS
我收到以下错误消息
Custom Filter failed. Retry the shaping operation you just performed.
•Filter rows by using the SQL WHERE clause expression
'DATE(SHIPMENT_TMS) >= CURRENT DATE - 2 MONTH - (DAY(CURRENT
DATE)-1)DAYS' java.lang.RuntimeException: [1.36] failure: end of input
expected DATE(SHIPMENT_TMS) >= CURRENT DATE - 2 MONTH - (DAY(CURRENT
DATE)-1)DAYS
服务可能无法识别 DATE() 或 DAY()。有没有人尝试做这样的过滤器?
谢谢
数据连接不支持以上SQL。数据连接仅支持 Spark SQL。
这是来自 spark 的通用页面:
https://spark.apache.org/docs/1.6.0/sql-programming-guide.html
这是spark支持的函数列表:
https://spark.apache.org/docs/1.6.0/api/scala/index.html#org.apache.spark.sql.functions$
您可能已经意识到,我经常使用这个 IBM Bluemix DataConnect 服务。创建 activity 时,您可以使用自定义过滤器优化要导出的数据(它启用 WHERE 子句以向查询添加逻辑)
我正在尝试过滤一个 TIMESTAMP 字段,试图获取 1 个月前的数据,但是句子不起作用。
DATE(SHIPMENT_TMS) >= CURRENT DATE - 2 MONTH - (DAY(CURRENT DATE)-1)DAYS
我收到以下错误消息
Custom Filter failed. Retry the shaping operation you just performed. •Filter rows by using the SQL WHERE clause expression 'DATE(SHIPMENT_TMS) >= CURRENT DATE - 2 MONTH - (DAY(CURRENT DATE)-1)DAYS' java.lang.RuntimeException: [1.36] failure: end of input expected DATE(SHIPMENT_TMS) >= CURRENT DATE - 2 MONTH - (DAY(CURRENT DATE)-1)DAYS
服务可能无法识别 DATE() 或 DAY()。有没有人尝试做这样的过滤器?
谢谢
数据连接不支持以上SQL。数据连接仅支持 Spark SQL。
这是来自 spark 的通用页面: https://spark.apache.org/docs/1.6.0/sql-programming-guide.html
这是spark支持的函数列表: https://spark.apache.org/docs/1.6.0/api/scala/index.html#org.apache.spark.sql.functions$