加入 file_fdw 外国 table 和 postgres_fdw 外国 table

Join on file_fdw foreign table and postgres_fdw foreign table

在 postgreSQL 9.5 中:

我有一个名为:sheetheight(由 file_fdw 创建)的外国 table 和一个名为:dzlog(由 postgres_fdw 创建)的外国 table。

1- 加入外国 tables 我有以下查询:

SELECT * from dzlog INNER JOIN sheetheight ON dzlog.ullid = sheetheight.ullid;

EXPLAIN ANALYZE returns 支持上述查询:

-------------------------------------------------
 Hash Join  (cost=111.66..13688.18 rows=20814 width=2180) (actual time=7670.872.
.8527.844 rows=2499 loops=1)
   Hash Cond: (sheetheight.ullid = dzlog.ullid)
   ->  Foreign Scan on sheetheight  (cost=0.00..12968.10 rows=106741 width=150)
(actual time=0.116..570.571 rows=223986 loops=1)
         Foreign File: D:\code\sources\sheetHeight_20151025_221244_0000000004987
6878996.csv
         Foreign File Size: 18786370
   ->  Hash  (cost=111.17..111.17 rows=39 width=2030) (actual time=7658.661..765
8.661 rows=34107 loops=1)
         Buckets: 2048 (originally 1024)  Batches: 32 (originally 1)  Memory Usa
ge: 4082kB
         ->  Foreign Scan on dzlog  (cost=100.00..111.17 rows=39 width=2030) (ac
tual time=47.162..7578.990 rows=34107 loops=1)
 Planning time: 8.755 ms
 Execution time: 8530.917 ms
(10 rows)

查询的输出有两列名为 ullid。

ullid,date,color,sheetid,dz0,dz1,dz2,dz3,dz4,dz5,dz6,dz7,ullid,sheetid,pass,...

2- 要从 python 应用程序直接访问 csv 文件和 sql 本地 table,我有: 我通过不使用 FDW 而是使用 Pandas merge dataframe 从 python 应用程序直接访问 csv 文件和 postgreSQL 本地 table 来完成相同的查询。这个连接是原始连接,所以我首先获取 csv 文件,然后使用 python 中的 pandas 库获取 sql table,然后我合并两个数据帧基于常用列

import pandas as pd
def rawjoin(query,connection=psycopg2.connect("dbname='mydb' user='qfsa' host='localhost' password='123' port=5433")):
query=("SELECT * FROM dzlog;")
    firstTable= pd.read_csv('.\sources\sheetHeight_20151025_221244_000000000498768789.csv', delimiter=';', header=0)
    secondTable =pd.read_sql(query,connection)
    merged= pd.merge(firstTable, secondTable, on= 'ullid', how='inner')
    return merged

结果是具有一列 ullid 的连接数据框。

知道这个区别吗?我做了其他类型的连接,RAW访问和FDW访问的结果是一样的,其他查询如下:

 q7=("SELECT dzlog.color FROM dzlog,sheetheight WHERE dzlog.ullid = sheetheight.ullid;")
 q8=("SELECT sheetheight.defectfound FROM dzlog, sheetheight WHERE dzlog.ullid = sheetheight.ullid;")
 q9=("SELECT dzlog.color, sheetheight.defectfound FROM dzlog, sheetheight WHERE dzlog.ullid= sheetheight.ullid;")

我不知道你的第二个例子是做什么的,所以很难说。使用哪个库?它是生成 SQL 还是在应用程序中执行连接(这几乎总是性能损失)?如果这导致 SQL 语句,语句是什么?

第一个查询 returns 列两次,因为您要求它从 all[=21] return all 列=]涉及表,两张表都有这一列,join条件强制相等

您可以编写一个 SQL 语句,只输出一次列,如下所示:

SELECT *
FROM dzlog
   JOIN sheetheight
      USING (ullid);

这看起来很像第二个示例中的代码,不是吗?