如何在kafka中加入2个流?
How to join 2 streams in kafka?
学习 Kafka Streams,尝试在 5 分钟 window 上加入两个流(Json 值)。我的理解是对值具有相同的键以匹配连接条件。如果我的理解是正确的,就像钥匙只能加入,对吧?如果是这样,我如何加入 json 值。 IE。 Stream1: Key=a, value={a,b,c}. Stream2: Key=a, value={x} and key=a, value={y}. Expected o/p: {a,b,c,x} and {a,b,c,y}.
要做到这一点,我的 ValueJoiner 应该是什么样子。帮我解决这个问题。我的示例代码:
KStream<String, JsonNode> resultStream = stream1.leftJoin(stream2,
new ValueJoiner<JsonNode, JsonNode, JsonNode>() {
@Override
public JsonNode apply(JsonNode value1, JsonNode value2) {
if (value1 != null && value2 != null) {
return value1;
}
return null;
}
}, JoinWindows.of(TimeUnit.SECONDS.toMillis(20)), Joined.with(Serdes.String(), /* key */
jsonSerde, /* left value */
jsonSerde) /* right value */
);
您对连接如何工作的理解是正确的(假设不同的记录时间戳小于连接-window 大小)。
JsonNode操作,网上搜索一下:
学习 Kafka Streams,尝试在 5 分钟 window 上加入两个流(Json 值)。我的理解是对值具有相同的键以匹配连接条件。如果我的理解是正确的,就像钥匙只能加入,对吧?如果是这样,我如何加入 json 值。 IE。 Stream1: Key=a, value={a,b,c}. Stream2: Key=a, value={x} and key=a, value={y}. Expected o/p: {a,b,c,x} and {a,b,c,y}.
要做到这一点,我的 ValueJoiner 应该是什么样子。帮我解决这个问题。我的示例代码:
KStream<String, JsonNode> resultStream = stream1.leftJoin(stream2,
new ValueJoiner<JsonNode, JsonNode, JsonNode>() {
@Override
public JsonNode apply(JsonNode value1, JsonNode value2) {
if (value1 != null && value2 != null) {
return value1;
}
return null;
}
}, JoinWindows.of(TimeUnit.SECONDS.toMillis(20)), Joined.with(Serdes.String(), /* key */
jsonSerde, /* left value */
jsonSerde) /* right value */
);
您对连接如何工作的理解是正确的(假设不同的记录时间戳小于连接-window 大小)。
JsonNode操作,网上搜索一下: