Streamsets Transformer - JDBC 没有偏移列的来源

Streamsets Transformer - JDBC Origin without offset column

我正在测试可以让任何用户轻松创建数据处理管道的平台。该平台必须满足某些要求,其中之一是能够将数据从 Oracle/SQL 服务器移动到 HDFS。

Streamsets Transformer (v3.11) 满足所有要求,包括上述要求。我只是无法让它在一个非常具体的情况下工作:当摄取不包含数字列的 table 时。

在这些情况下,我希望管道处理所有数据,因此,在 JDBC Origin 中,我启用了 "Skip Offset Tracking" 属性。我认为通过跳过偏移跟踪就不需要设置 "Offset Column" 属性(我猜我错了)。

JDBC_05 - Table doesn't have compatible primary key configuration - supporting exactly one column but table have 0

如果存在数字列,可能的解决方法是将其设置为偏移列,但是当 none 存在时我找不到这样做的方法。

我错过了什么吗?

谢谢

我们正在考虑在未来的版本中在 Transformer 中提供此功能。如果有任何消息,我会回来更新此答案。

与此同时,您可能想看看对这些表使用 StreamSets Data Collector。它没有 'numeric offset column' 要求。