在 Google 数据流中查看作业图大小

See job graph size in Google Dataflow

我在尝试 运行 管道时收到以下错误消息:

The job graph is too large. Please try again with a smaller job graph, or split your job into two or more smaller jobs.

根据文档,限制为 10 MB。然而;我想知道这个图到底有多大,方便调试。

有什么方法可以查看图表的大小吗?

如评论中所述,使用 --dataflow_job_file 选项。注意这里不需要指定gcs路径,你可以在本地写出来。您还可以传递 --dry_run 选项以避免实际提交作业。