Matillion for Amazon Redshift 支持作业监控

Matillion for Amazon Redshift support for job monitoring

我正在为 Redshift 使用 Amazon Matillion,我们每天有多个作业 运行 由 SQS 消息触发。现在我正在检查为利益相关者创建一个 UI 仪表板的可能性,它将监控作业的实时进度并显示以前作业的报告,例如作业名称、受影响的表、失败的作业 status/reason 等。 Matillion 隐含地维护这种信息?或者我将不得不为每个作业维护此信息。

Matillion 有一个 API,您可以使用它来获取所有任务历史记录的详细信息。有关任务 API 的信息在这里: https://redshiftsupport.matillion.com/customer/en/portal/articles/2720083-loading-task-information?b_id=8915

您可以使用它来将当前 运行 宁工作或已完成工作的数据提取到组件级别,包括工作名称、组件名称、运行 花费的时间、是否它 运行 成功与否以及任何适用的错误消息。

可以使用产品内置的 Matillion API 配置文件和 API 查询组件将此信息提取到 Redshift table 中。然后,您可以在此 table 之上构建您的仪表板。如需更多信息,我建议您通过他们的支持中心联系 Matillion。

API 很有帮助,但您只能将日期作为参数传递(这是针对 Matillion for Snowflake,假设它与 Redshift 相同)。我已请求能够传递日期时间,这样我们就可以 运行 全天处理作业,而不是每次 API 调用 运行 时都返回相同的记录集。