将 API 中的数据上传到 GCP dataprep

Upload data from API into GCP dataprep

是否可以将数据从 Restful API 直接导入数据准备?

我认为可能有一些解决方法... 1:将结果保存到 GCS 存储桶中的 JSON 文件并从那里导入。 2:将结果导入大查询 table,然后从那里导入数据准备。

只调用 API 并获得结果集会更顺利,而不是必须采取额外的步骤。我只是找不到任何解释如何执行此操作的地方。

TIA!

长话短说:没有真正的方法可以将数据直接流式传输到数据准备中。即使是新的 Dataprep Premium Edition 也希望您拥有某种形式的数据库中的数据——尽管这确实将您的选择扩展到 Google Sheets、Salesforce、Oracle、Microsoft SQLServer、MySQL 和 PostgreSQL .

就我个人而言,我刚刚养成了直​​接写入 BigQuery and/or Firestore-to-BigQuery 的习惯,以解决此类问题。它还有一个很好的副作用,即成为应用程序的另一种日志记录类型。