使用 Azure Data Factory V2 通过 LastModifiedDate 复制新的和更改的文件

Copy new and changed files by LastModifiedDate with Azure Data Factory V2

使用副本 activity,我只需要获取文件夹中的最新文件。

示例: 文件夹

文件 1

文件2 其中 File2 是最新的。

但是,它同时占用了两个文件。

我关注了: https://docs.microsoft.com/en-us/azure/data-factory/solution-template-copy-new-files-lastmodifieddate

也尝试在源数据集中>连接>按上次修改过滤

Start Date: @adddays(utcnow(),-31)

End Date: utcnow()

我希望在指定的日期范围内只获取最后修改的文件。

我的粗略想法是使用这样的flow:Get元数据activity-->Azure函数Activity-->复制Activity.

第 1 步:使用 Metadata Activity 获取指定日期范围内特定文件夹中文件的最后修改日期时间。

第二步:将输出数组传递给azure function activity,使用冒泡排序(或其他比较算法)获取最新修改的文​​件名并过滤others.Output该文件名。

Step3:传递文件名复制activity进行传输

你可以从这个案例中得到一些类似的线索:https://social.msdn.microsoft.com/Forums/en-US/affdcb44-6a8c-4b20-8e2e-6da20ab86c32/default-sorting-of-get-metadata-activity?forum=AzureDataFactory