VCP Google Cloud Platform 的数据流 Pub/Sub BigQuery 的主题未从订阅中提取数据
VCP Google Cloud Platform's Dataflow Pub/Sub Topic to BigQuery not Pulling data from subscription
我正在使用 GCP 处理和存储从模拟物联网设备发送的数据。数据(应该)在以下路径中流动:
[带有 mqtt 客户端的模拟物联网设备] -> [物联网核心设备] -> [物联网核心注册表] -> [pub/sub 主题] -> [pub/sub 订阅] -> [云数据流 pub/sub 订阅 BigQuery 模板] -> [BigQuery Table]
我所在的公司有一些 GCP 配置(它在 VPC 上),这需要我指定一个 subnet for DataFlow to even run 。当数据流在指定子网后运行时,它不会执行任何操作。它不会从订阅中提取数据,也不会输出任何错误消息。它显然不知道数据正在发送到主题和订阅。我还尝试了 BigQuery 模板的云数据流 pub/sub 主题,但它也没有任何作用。我已验证数据正在发送到订阅。
解决此问题的最佳方法是什么?我不知道为什么这两个组件之间没有通信。
我终于弄清楚了这个问题。问题是虚拟私有云的区域与数据流的区域不匹配。我也无法使用云数据流 pub/sub 订阅 BigQuery 模板,但我能够使用云数据流 pub/sub 主题订阅 BigQuery。
要点是区域在此上下文中很重要,如果它们不匹配,则不会发生任何事情。如果没有任何反应,请仔细检查您是否选择了正确的区域。
我正在使用 GCP 处理和存储从模拟物联网设备发送的数据。数据(应该)在以下路径中流动:
[带有 mqtt 客户端的模拟物联网设备] -> [物联网核心设备] -> [物联网核心注册表] -> [pub/sub 主题] -> [pub/sub 订阅] -> [云数据流 pub/sub 订阅 BigQuery 模板] -> [BigQuery Table]
我所在的公司有一些 GCP 配置(它在 VPC 上),这需要我指定一个 subnet for DataFlow to even run 。当数据流在指定子网后运行时,它不会执行任何操作。它不会从订阅中提取数据,也不会输出任何错误消息。它显然不知道数据正在发送到主题和订阅。我还尝试了 BigQuery 模板的云数据流 pub/sub 主题,但它也没有任何作用。我已验证数据正在发送到订阅。
解决此问题的最佳方法是什么?我不知道为什么这两个组件之间没有通信。
我终于弄清楚了这个问题。问题是虚拟私有云的区域与数据流的区域不匹配。我也无法使用云数据流 pub/sub 订阅 BigQuery 模板,但我能够使用云数据流 pub/sub 主题订阅 BigQuery。
要点是区域在此上下文中很重要,如果它们不匹配,则不会发生任何事情。如果没有任何反应,请仔细检查您是否选择了正确的区域。