BigQuery 中是否有像 'hive metastore' 这样的元数据存储?
is there any metadata store like 'hive metastore' in BigQuery?
我是 BigQuery 的新手。我只想知道,BigQuery 中是否有类似 hive metastore(关于所有表、列及其描述的元数据)的东西?
BigQuery 提供了一些特殊的 table,其内容表示元数据,例如 table 的列表和数据集中的视图。 "meta-tables" 是只读的。要访问有关数据集中 table 和视图的元数据,请在查询的 SELECT 语句中使用 __TABLES_SUMMARY__ meta-table。您可以 运行 使用 BigQuery web UI、使用命令行工具的 bq 查询命令或调用 jobs.insert API 方法并配置查询作业来进行查询。
另一个更详细的 meta-table 是 __TABLES__ - 请参见下面的示例
SELECT table_id,
DATE(TIMESTAMP_MILLIS(creation_time)) AS creation_date,
DATE(TIMESTAMP_MILLIS(last_modified_time)) AS last_modified_date,
row_count,
size_bytes,
CASE
WHEN type = 1 THEN 'table'
WHEN type = 2 THEN 'view'
WHEN type = 3 THEN 'external'
ELSE '?'
END AS type,
TIMESTAMP_MILLIS(creation_time) AS creation_time,
TIMESTAMP_MILLIS(last_modified_time) AS last_modified_time,
dataset_id,
project_id
FROM `project.dataset.__TABLES__`
对于 table 架构 - 列、描述 - 您可以使用 bq 命令行 - 例如:
bq show publicdata:samples.shakespeare
结果为
tableId Last modified Schema
------------- ----------------- ------------------------------------
shakespeare 01 Sep 13:46:28 |- word: string (required)
|- word_count: integer (required)
|- corpus: string (required)
|- corpus_date: integer (required)
在 https://cloud.google.com/bigquery/bq-command-line-tool#gettable 查看更多
我是 BigQuery 的新手。我只想知道,BigQuery 中是否有类似 hive metastore(关于所有表、列及其描述的元数据)的东西?
BigQuery 提供了一些特殊的 table,其内容表示元数据,例如 table 的列表和数据集中的视图。 "meta-tables" 是只读的。要访问有关数据集中 table 和视图的元数据,请在查询的 SELECT 语句中使用 __TABLES_SUMMARY__ meta-table。您可以 运行 使用 BigQuery web UI、使用命令行工具的 bq 查询命令或调用 jobs.insert API 方法并配置查询作业来进行查询。
另一个更详细的 meta-table 是 __TABLES__ - 请参见下面的示例
SELECT table_id,
DATE(TIMESTAMP_MILLIS(creation_time)) AS creation_date,
DATE(TIMESTAMP_MILLIS(last_modified_time)) AS last_modified_date,
row_count,
size_bytes,
CASE
WHEN type = 1 THEN 'table'
WHEN type = 2 THEN 'view'
WHEN type = 3 THEN 'external'
ELSE '?'
END AS type,
TIMESTAMP_MILLIS(creation_time) AS creation_time,
TIMESTAMP_MILLIS(last_modified_time) AS last_modified_time,
dataset_id,
project_id
FROM `project.dataset.__TABLES__`
对于 table 架构 - 列、描述 - 您可以使用 bq 命令行 - 例如:
bq show publicdata:samples.shakespeare
结果为
tableId Last modified Schema
------------- ----------------- ------------------------------------
shakespeare 01 Sep 13:46:28 |- word: string (required)
|- word_count: integer (required)
|- corpus: string (required)
|- corpus_date: integer (required)
在 https://cloud.google.com/bigquery/bq-command-line-tool#gettable 查看更多