使用 Azure 服务解析文件 DAT 文件、CSV 文件和图像文件
Parsing files DAT files, CSV files and Image files using Azure services
我有 5 种类型的 EDI 文件,即 - *.DAT、*.XML、*.TXT、*.CSV 和包含非标准格式数据的图像文件。
我需要解析它们并从中提取所需的数据并将它们保存在 SQL 数据库中。
目前,我正在花时间为每种类型的 EDI 文件编写解析器 class 库并且不可扩展。
我想知道是否有任何 azure 服务可以为我做解析工作并且是可扩展的。
我能期待这方面的解决方案吗?
考虑使用 Azure 数据工厂。它 supports a range 种文件类型。
I need to parse them and extract required data from them and persist them in SQL Database.
是的,您可以使用 Azure Functions 处理 CSV 等文件并将数据导入 Azure SQL 或者 Azure 数据工厂也有助于读取或复制许多文件格式并将它们存储在 SQL 指定格式的服务器数据库,微软提供了实例,请参考here.
要使用 Azure Functions,步骤如下:
- 创建 Blob Trigger 类型的 Azure Functions(Stack:.Net 3.1)并在
local.settings.json
中定义本地存储帐户连接字符串,如下所示:
- 在 Function.cs 中,将有一些样板代码给出显示上传的 blob 名称及其大小的逻辑。
在运行函数中,您可以定义上传的blob文件的解析逻辑。
创建 Azure SQL 数据库,使用位置、定价层和所需设置配置服务器。之后,数据库概览页面上的Select Set Server Firewall
。单击 Add Client IP
添加您的 IP 地址和 Save
。测试数据库是否可以连接。
从 Visual Studio.
将项目部署到 Azure Functions App
在 Azure 门户中打开您的 Azure SQL 数据库并导航至 Connection Strings
。复制 ADO.NET
.
的连接字符串
将 Connection String
粘贴到门户的 Azure Function App 设置中。
从门户测试函数应用程序以及将文件从存储上传到 SQL 数据库的剩余步骤在此 GitHub documentation
中可用
还有通过Azure Functions将CSV等文件解析成JSON格式,请参考here.
我有 5 种类型的 EDI 文件,即 - *.DAT、*.XML、*.TXT、*.CSV 和包含非标准格式数据的图像文件。 我需要解析它们并从中提取所需的数据并将它们保存在 SQL 数据库中。 目前,我正在花时间为每种类型的 EDI 文件编写解析器 class 库并且不可扩展。
我想知道是否有任何 azure 服务可以为我做解析工作并且是可扩展的。
我能期待这方面的解决方案吗?
考虑使用 Azure 数据工厂。它 supports a range 种文件类型。
I need to parse them and extract required data from them and persist them in SQL Database.
是的,您可以使用 Azure Functions 处理 CSV 等文件并将数据导入 Azure SQL 或者 Azure 数据工厂也有助于读取或复制许多文件格式并将它们存储在 SQL 指定格式的服务器数据库,微软提供了实例,请参考here.
要使用 Azure Functions,步骤如下:
- 创建 Blob Trigger 类型的 Azure Functions(Stack:.Net 3.1)并在
local.settings.json
中定义本地存储帐户连接字符串,如下所示:
- 在 Function.cs 中,将有一些样板代码给出显示上传的 blob 名称及其大小的逻辑。
在运行函数中,您可以定义上传的blob文件的解析逻辑。
创建 Azure SQL 数据库,使用位置、定价层和所需设置配置服务器。之后,数据库概览页面上的Select
Set Server Firewall
。单击Add Client IP
添加您的 IP 地址和Save
。测试数据库是否可以连接。从 Visual Studio.
将项目部署到 Azure Functions App在 Azure 门户中打开您的 Azure SQL 数据库并导航至
的连接字符串Connection Strings
。复制ADO.NET
.将
Connection String
粘贴到门户的 Azure Function App 设置中。从门户测试函数应用程序以及将文件从存储上传到 SQL 数据库的剩余步骤在此 GitHub documentation
中可用
还有通过Azure Functions将CSV等文件解析成JSON格式,请参考here.