athena presto - 从长到宽的多列

Question

我是 Athena 的新手，我想了解如何将多列从长格式转换为宽格式。似乎需要 presto，但我只能成功地将 map_agg 应用于一个变量。我认为我的以下最终结果可以通过 multimap_agg 实现，但无法完全实现。

下面我将介绍我的步骤和数据。如果您有任何建议或问题，请告诉我！

首先，数据是这样开头的：

id  | letter    | number   | value
------------------------------------
123 | a         | 1        | 62
123 | a         | 2        | 38
123 | a         | 3        | 44
123 | b         | 1        | 74
123 | b         | 2        | 91
123 | b         | 3        | 97
123 | c         | 1        | 38
123 | c         | 2        | 98
123 | c         | 3        | 22
456 | a         | 1        | 99
456 | a         | 2        | 33
456 | a         | 3        | 81
456 | b         | 1        | 34
456 | b         | 2        | 79
456 | b         | 3        | 43
456 | c         | 1        | 86
456 | c         | 2        | 60
456 | c         | 3        | 59

然后我使用 where 子句和 joining:

过滤将数据转换为以下内容

id  | letter  | 1  | 2  | 3
----------------------------
123 | a       | 62 | 38 | 44
123 | b       | 74 | 91 | 97
123 | c       | 38 | 98 | 22
456 | a       | 99 | 33 | 81
456 | b       | 34 | 79 | 43
456 | c       | 86 | 60 | 59

对于最后的结果，我想把它转化成下面这样：

id  | a_1   | a_2   | a_3   | b_1   | b_2   | b_3   | c_1   | c_2   | c_3
--------------------------------------------------------------------------
123 | 62    | 38    | 44    | 74    | 91    | 97    | 38    | 98    | 22
456 | 99    | 33    | 81    | 34    | 79    | 43    | 86    | 60    | 59

Answer 1

您可以使用 window 函数和条件聚合。这需要您事先知道可能的字母，以及每个 id/letter 元组的最大行数：

select
    id,
    max(case when letter = 'a' and rn = 1 then value end) a_1,
    max(case when letter = 'a' and rn = 2 then value end) a_2,
    max(case when letter = 'a' and rn = 3 then value end) a_3,
    max(case when letter = 'b' and rn = 1 then value end) b_1,
    max(case when letter = 'b' and rn = 2 then value end) b_2,
    max(case when letter = 'b' and rn = 3 then value end) b_3,
    max(case when letter = 'c' and rn = 1 then value end) c_1,
    max(case when letter = 'c' and rn = 2 then value end) c_2,
    max(case when letter = 'c' and rn = 3 then value end) c_3
from (
    select 
        t.*, 
        row_number() over(partition by id, letter order by number) rn
    from mytable t
) t
group by id

实际上，如果 number 总是 1、2、3，那么您甚至不需要 window 函数：

select
    id,
    max(case when letter = 'a' and number = 1 then value end) a_1,
    max(case when letter = 'a' and number = 2 then value end) a_2,
    max(case when letter = 'a' and number = 3 then value end) a_3,
    max(case when letter = 'b' and number = 1 then value end) b_1,
    max(case when letter = 'b' and number = 2 then value end) b_2,
    max(case when letter = 'b' and number = 3 then value end) b_3,
    max(case when letter = 'c' and number = 1 then value end) c_1,
    max(case when letter = 'c' and number = 2 then value end) c_2,
    max(case when letter = 'c' and number = 3 then value end) c_3
from mytable t
group by id

Answer 2

Athena 需要在查询时知道列，但下一个最好的方法是使用地图，正如您在问题中暗示的那样。

获得您想要的结果的一种方法是此查询（the_table 指的是您问题中的第一个 table，带有 id、letter 的那个、number 和 value 列）：

SELECT
  id,
  map_agg(letter || '_' || CAST(number AS varchar), value) AS letter_number_value
FROM the_table
GROUP BY id

结果如下：

id  | letter_number_value
----+-------------------------------------------------------------------------
123 | {a_1=62, a_2=38, a_3=44, b_1=74, b_2=91, b_3=97, c_1=38, c_2=98, c_3=22}
456 | {a_1=99, a_2=33, a_3=81, b_1=34, b_2=79, b_3=43, c_1=86, c_2=60, c_3=59}

我通过手动对映射键进行排序来稍微作弊，如果您运行查询它们将以任意顺序结束，但我认为这样更容易看到结果是所需的。

请注意，这假设没有重复的 letter/number 组合，如果有，我认为结果中的最终值是未定义的。

另请注意，Athena 的地图输出格式不明确，在某些情况下您可能会得到无法解析的结果（例如，当键或值包含等号或逗号时）。因此，我建议将地图转换为 JSON 并在您的应用程序代码中使用 JSON 解析器，例如CAST(map_agg(…) AS JSON).

athena presto - 从长到宽的多列

athena presto - multiple columns from long to wide

sql

pivot

window-functions

presto

amazon-athena