JDBC 或复制到
JDBC or Copy INTO
我需要帮助来确定将不同来源的数据加载到雪花的方法。要提取数据,我们有 etl、talend、工具。现在的问题是,我们是否应该通过 JDBC snowflake 的驱动程序将数据加载到 snowflake 并将 snowflake 作为 etl 管道中的目标,或者我们应该先在 s3 中创建一个文件,在 snwoflake 中创建 s3 的阶段,然后 运行 复制到命令以从 s3 加载数据?我们会有很多工作,
最好的方法是什么?
谢谢
S3 和复制到绝对是一个更好的调用 - 无论是在时间还是最终数据结构方面。在执行真正的批量操作时,Snowflake 将能够优化数据的存储方式,因此您对加载数据的查询 运行 将执行得更好。
我需要帮助来确定将不同来源的数据加载到雪花的方法。要提取数据,我们有 etl、talend、工具。现在的问题是,我们是否应该通过 JDBC snowflake 的驱动程序将数据加载到 snowflake 并将 snowflake 作为 etl 管道中的目标,或者我们应该先在 s3 中创建一个文件,在 snwoflake 中创建 s3 的阶段,然后 运行 复制到命令以从 s3 加载数据?我们会有很多工作,
最好的方法是什么?
谢谢
S3 和复制到绝对是一个更好的调用 - 无论是在时间还是最终数据结构方面。在执行真正的批量操作时,Snowflake 将能够优化数据的存储方式,因此您对加载数据的查询 运行 将执行得更好。