同一数据工厂管道的顺序 运行 的基于事件的触发器
Event based trigger for a sequential run of the same data factory pipeline
我想对 运行 数据工厂管道使用基于事件的触发器。
触发器将检查数据湖中的文件夹中是否有任何新文件,并在复制新的 CSV 文件后启动管道。
管道随后会将数据复制到中间 table 以检查其一致性(使用不同的数据流活动进行多次检查),如果一切正确,则将其复制到阶段 table。
因此,中间 table 在检查之前仅包含来自一个 CSV 文件的数据非常重要。
虽然我已经读到基于事件的触发器将与(同时)下载的 CSV 文件一样多的管道并行启动。
这样对吗?在这种情况下,如何强制每个管道等待前一个管道完成?
感谢您的帮助。
管道属性上有一个名为 concurrency
的标志(可在编辑器窗格的右上角访问)。将此设置为 1 并且只有一个副本 运行 并且任何其他调用将排队直到该副本完成。
我想对 运行 数据工厂管道使用基于事件的触发器。
触发器将检查数据湖中的文件夹中是否有任何新文件,并在复制新的 CSV 文件后启动管道。
管道随后会将数据复制到中间 table 以检查其一致性(使用不同的数据流活动进行多次检查),如果一切正确,则将其复制到阶段 table。
因此,中间 table 在检查之前仅包含来自一个 CSV 文件的数据非常重要。
虽然我已经读到基于事件的触发器将与(同时)下载的 CSV 文件一样多的管道并行启动。
这样对吗?在这种情况下,如何强制每个管道等待前一个管道完成?
感谢您的帮助。
管道属性上有一个名为 concurrency
的标志(可在编辑器窗格的右上角访问)。将此设置为 1 并且只有一个副本 运行 并且任何其他调用将排队直到该副本完成。