无法正确读取 python 中的 SQL table：作为逗号分隔字符/元组导入的 varchar 列

Question

我正在使用以下代码连接到 Oracle 数据库：

jar = ojdbc8.jar path
jvm_path = jvm.dll path
args = '-Djava.class.path=%s' % jar
jpype.startJVM(jvm_path, args)
con = jaydebeapi.connect("oracle.jdbc.driver.OracleDriver", url,[user, password], jar)

连接正常，但数据返回 this odd format。

pd.read_sql("SELECT * FROM table1", con)

产量

+---+-----------------+-----------------+-----------------+
|   | (C,O,L,U,M,N,1) | (C,O,L,U,M,N,2) | (C,O,L,U,M,N,3) |
+---+-----------------+-----------------+-----------------+
| 1 | (t,e,s,t)       | (t,e,s,t,2)     | 1               |
+---+-----------------+-----------------+-----------------+
| 2 | (f,o,o)         | (b,a,r)         | 100             |
+---+-----------------+-----------------+-----------------+

数字和日期已正确导入，但 varchar 列未正确导入。我尝试了不同的表，它们都有这个问题。

我在任何地方都没有见过这样的东西。希望你能帮助我。

Answer 1

这似乎是将 jaydebeapi 与 jpype 一起使用时的问题。当以与您相同的方式连接到 Oracle 数据库时，我可以重现此问题（在我的例子中是 Oracle 11gR2，但由于您使用的是 ojdbc8.jar，我想其他版本也会发生这种情况）。

有多种方法可以解决此问题：

更改您的连接

由于错误似乎只发生在特定的软件包组合中，最明智的做法是尽量避免这些错误，从而完全避免错误。

备选方案 1：使用 jaydebeapi 而不使用 jpype:

如前所述，我仅在将 jaydebeapi 与 jpype 一起使用时才观察到这一点。但是，就我而言，根本不需要 jpype 。我在本地有 .jar 文件，没有它我的连接也能正常工作：

import jaydebeapi as jdba
import pandas as pd
import os

db_host = 'db.host.com'
db_port = 1521
db_sid = 'YOURSID'

jar=os.getcwd()+'/ojdbc6.jar'

conn = jdba.connect('oracle.jdbc.driver.OracleDriver', 
                'jdbc:oracle:thin:@' + db_host + ':' + str(db_port) + ':' + db_sid, 
                {'user': 'USERNAME', 'password': 'PASSWORD'}, 
                jar
                )

df_jay = pd.read_sql('SELECT * FROM YOURSID.table1', conn)

conn.close()

在我的例子中，这工作正常并正常创建数据帧。

备选方案 2：改用 cx_Oracle：

如果我使用 cx_Oracle 连接到 Oracle 数据库，也不会出现此问题：

import cx_Oracle
import pandas as pd
import os

db_host = 'db.host.com'
db_port = 1521
db_sid = 'YOURSID'

dsn_tns = cx_Oracle.makedsn(db_host, db_port, db_sid)
cx_conn = cx_Oracle.connect('USERNAME', 'PASSWORD', dsn_tns)

df_cxo = pd.read_sql('SELECT * FROM YOURSID.table1', con=cx_conn)

cx_conn.close()

注意：要使 cx_Oracle 正常工作，您必须拥有 Oracle Instant Client installed and properly set up (see e.g. cx_Oracle documentation for Ubuntu)。

事后修复数据框：

如果由于某种原因，您不能使用上述连接替代方案，您也可以转换您的数据框。

备选方案 3：连接元组条目：

您可以使用 ''.join() 到 convert tuples to strings。您需要对条目和列名执行此操作。

# for all entries that are not None, join the tuples
for col in df.select_dtypes(include=['object']).columns:
    df[col] = df[col].apply(lambda x: ''.join(x) if x is not None else x)

# also rename the column headings in the same way
df.rename(columns=lambda x: ''.join(x) if x is not None else x, inplace=True)

备选方案 4：更改列的数据类型：

通过将受影响列的 dtype 从 object 更改为 string，所有条目也将被转换。请注意，这可能有不需要的 side-effects，例如将 None 值更改为字符串 <N/A>。此外，您必须单独重命名列标题，如上所述。
```
for col in df.select_dtypes(include=['object']).columns:
    df[col] = df[col].astype('string')

# again, rename headings
df.rename(columns=lambda x: ''.join(x) if x is not None else x, inplace=True)
```

所有这些最终应该产生或多或少相同的 df（除了 dtypes 和 None 值的可能替换）：

+---+---------+---------+---------+
|   | COLUMN1 | COLUMN2 | COLUMN3 |
+---+---------+---------+---------+
| 1 | test    | test2   | 1       |
+---+---------+---------+---------+
| 2 | foo     | bar     | 100     |
+---+---------+---------+---------+

无法正确读取 python 中的 SQL table：作为逗号分隔字符/元组导入的 varchar 列

Can't properly read SQL table in python: varchar columns imported as comma-separated characters / tuples

python

sql

pandas

oracle

jaydebeapi

更改您的连接

事后修复数据框：