在 Foundry 转换中保存 CSV 文件

Question

是否可以将 CSV 文件保存为 Foundry 代码存储库转换-python 语言而不是将它们保存为 Parquet 格式？

Answer 1

是的，这可以通过在调用write_dataset函数时指定输出数据集格式来完成。您也可以在拨打电话时包括压缩选项。例如：

@transform(
    my_input = Input('/path/to/input/dataset'),
    my_output = Output('/path/to/output/dataset')
)
def compute_function(my_input, my_output):
    my_output.write_dataframe(
        my_input.dataframe(),
        output_format = "csv",
        options = {
            "compression": "gzip"
        }
    )