在将数据从变量插入 BQ table 时动态处理 Bigquery table 模式
Dynamic Handing of Bigquery table schema while inserting data into BQ table from variable
我正在尝试使用需要动态模式处理的 python 代码将数据附加到 BQ table。
谁能给我 link 来处理上述情况。
loading a .csv file into BigQuery 使用 python 客户端库的示例代码:
# from google.cloud import bigquery
# client = bigquery.Client()
# filename = '/path/to/file.csv'
# dataset_id = 'my_dataset'
# table_id = 'my_table'
dataset_ref = client.dataset(dataset_id)
table_ref = dataset_ref.table(table_id)
job_config = bigquery.LoadJobConfig()
job_config.source_format = bigquery.SourceFormat.CSV
job_config.skip_leading_rows = 1
job_config.autodetect = True
with open(filename, "rb") as source_file:
job = client.load_table_from_file(source_file, table_ref, job_config=job_config)
job.result() # Waits for table load to complete.
print("Loaded {} rows into {}:{}.".format(job.output_rows, dataset_id, table_id))
另请查看文档的这一部分,以从使用相同或不同架构的源文件中了解有关 appending data into tables 的更多信息。
我正在尝试使用需要动态模式处理的 python 代码将数据附加到 BQ table。 谁能给我 link 来处理上述情况。
loading a .csv file into BigQuery 使用 python 客户端库的示例代码:
# from google.cloud import bigquery
# client = bigquery.Client()
# filename = '/path/to/file.csv'
# dataset_id = 'my_dataset'
# table_id = 'my_table'
dataset_ref = client.dataset(dataset_id)
table_ref = dataset_ref.table(table_id)
job_config = bigquery.LoadJobConfig()
job_config.source_format = bigquery.SourceFormat.CSV
job_config.skip_leading_rows = 1
job_config.autodetect = True
with open(filename, "rb") as source_file:
job = client.load_table_from_file(source_file, table_ref, job_config=job_config)
job.result() # Waits for table load to complete.
print("Loaded {} rows into {}:{}.".format(job.output_rows, dataset_id, table_id))
另请查看文档的这一部分,以从使用相同或不同架构的源文件中了解有关 appending data into tables 的更多信息。