正确安装支持 FTS5 的 sqlite3

Properly install sqlite3 with FTS5 support

我正在开发一个 Python 工具,它使用带有 FTS5(全文搜索)的 sqlite3 虚拟 table。我想知道如何从 tarball(或任何其他方式)正确安装我的工具工作所需的要求,以便我可以打包它们以实现便携性。

目前,我成功安装了 latest release tarball of sqlite。但是,当我执行时:

python3 -c "import sqlite3; print(sqlite3.sqlite_version)"
# or
python2 -c "import sqlite3; print(sqlite3.sqlite_version)"

我得到 3.11.0,而 sqlite3 --version returns:3.22.0 2018-01-22 18:45:57 0c55d179733b46d8d0ba4d88e01a25e10677046ee3da1d5b1581e86726f2alt1

系统版本sqlite3 3.22确实支持FTS5,我也是pragma compile_options;得到:

COMPILER=gcc-5.4.0 20160609
ENABLE_DBSTAT_VTAB
ENABLE_FTS4
**ENABLE_FTS5**
ENABLE_JSON1
ENABLE_RTREE
ENABLE_STMTVTAB
ENABLE_UNKNOWN_SQL_FUNCTION
HAVE_ISNAN
THREADSAFE=1

但是,python 版本,使用 returns 这个:

[(u'ENABLE_COLUMN_METADATA',), (u'ENABLE_DBSTAT_VTAB',), (u'ENABLE_FTS3',), (u'ENABLE_FTS3_PARENTHESIS',), (u'ENABLE_JSON1',), (u'ENABLE_LOAD_EXTENSION',), (u'ENABLE_RTREE',), (u'ENABLE_UNLOCK_NOTIFY',), (u'ENABLE_UPDATE_DELETE_LIMIT',), (u'HAVE_ISNAN',), (u'LIKE_DOESNT_MATCH_BLOBS',), (u'MAX_SCHEMA_RETRY=25',), (u'OMIT_LOOKASIDE',), (u'SECURE_DELETE',), (u'SOUNDEX',), (u'SYSTEM_MALLOC',), (u'TEMP_STORE=1',), (u'THREADSAFE=1',)]

因此,我的问题是

  1. 有什么方法可以为我的应用制作一个 linux portable 包 python 和 linux 系统都支持 sqlite3 FTS5?
  2. 有什么方法可以link python 模块 sqlite3 到一个特定的 sqlite3 路径?

我在 Ubuntu 16.04 LTS 中尝试了所有这些,但我也想在 CentOS 7 上工作。

非常感谢您。

有关我从 tarball 安装的更多详细信息:

wget "https://www.sqlite.org/src/tarball/sqlite.tar.gz?r=release" -O sqlite.tar.gz
tar -xzvf sqlite.tar.gz
cd sqlite
./configure --enable-fts5
make
sudo make install

最简单的方法是使用 apsw(另一个 Python SQLite Wrapper)。它的 API 与 sqlite3 略有不同,你不能只 pip-install 它(除非你对过时的版本没问题),但其余的都很好,你可以拥有SQLite 的最新功能。

wget https://github.com/rogerbinns/apsw/releases/download/3.22.0-r1/apsw-3.22.0-r1.zip
unzip apsw-3.22.0-r1.zip
cd apsw-3.22.0-r1
python setup.py fetch --sqlite build --enable-all-extensions install

然后,

import apsw

apsw.Connection(':memory:').cursor().execute('pragma compile_options').fetchall()

Returns:

[('COMPILER=gcc-5.4.0 20160609',),
 ('ENABLE_API_ARMOR',),
 ('ENABLE_FTS3',),
 ('ENABLE_FTS3_PARENTHESIS',),
 ('ENABLE_FTS4',),
 ('ENABLE_FTS5',), 
 ('ENABLE_ICU',),
 ('ENABLE_JSON1',),
 ('ENABLE_RBU',),
 ('ENABLE_RTREE',),
 ('ENABLE_STAT4',),
 ('THREADSAFE=1',)]

困难的方法是使用自定义 SQLite 编译 Python。 this article by Charles Leifer.

中有更多详细信息

我认为是链接问题!我按照与您相同的安装步骤并得到了相同的结果:

$ python ./test.py 
[(u'ENABLE_COLUMN_METADATA',), (u'ENABLE_FTS3',), (u'ENABLE_RTREE',), (u'ENABLE_UNLOCK_NOTIFY',), (u'ENABLE_UPDATE_DELETE_LIMIT',), (u'MAX_SCHEMA_RETRY=25',), (u'OMIT_LOOKASIDE',), (u'SECURE_DELETE',), (u'SOUNDEX',), (u'SYSTEM_MALLOC',), (u'TEMP_STORE=1',), (u'THREADSAFE=1',)]
NO

但是,当您通过 configure/make/make 在 Linux 上安装某些东西时,它通常会进入 /usr/local/lib。为了确保 python 在运行时链接到正确的 .so,我使用了 LD_LIBRARY_PATH。在这种情况下,我得到了:

$ LD_LIBRARY_PATH=/usr/local/lib python ./test.py 
[(u'COMPILER=gcc-4.8.5',), (u'ENABLE_FTS5',), (u'HAVE_ISNAN',), (u'TEMP_STORE=1',), (u'THREADSAFE=1',)]
YES

此外,安装库时,您可能需要更新 ldconfig。在我的系统上(Ubuntu 14.04):

$ sudo ldconfig
$ python ./test.py 
[(u'COMPILER=gcc-4.8.5',), (u'ENABLE_FTS5',), (u'HAVE_ISNAN',), (u'TEMP_STORE=1',), (u'THREADSAFE=1',)]
YES

请注意,不再需要使用 LD_LIBRARY_PATH 并且 python 链接到正确的库。为此,您需要在您的 ld.so.conf 某处拥有 /usr/local/lib 文件夹...对我而言,它位于:

$ grep -ir local /etc/ld.so.conf.d/
/etc/ld.so.conf.d/libc.conf:/usr/local/lib

感谢您的回答 and 。我发现你的回答很有建设性。

我看到@saaj 回答的问题是它需要额外的包,特别是 apsw 包,例如,它与 pypy 不兼容。我无法让它工作,但可能是我的错。

我真的很喜欢@urban 的回答。我完成了这个过程并让它发挥作用。我将此答案标记为正确。

但是我想添加我自己的答案。非常激进,但对我有用。我使用以下 Dockerfile 创建了一个 Ubuntu docker:

FROM ubuntu:16.04
RUN apt-get update -y
RUN DEBIAN_FRONTEND=noninteractive DEBCONF_NONINTERACTIVE_SEEN=true apt-get install -y apt-utils tzdata
RUN DEBIAN_FRONTEND=noninteractive DEBCONF_NONINTERACTIVE_SEEN=true dpkg-reconfigure tzdata
RUN echo "Europe/Berlin" > /etc/timezone
RUN dpkg-reconfigure -f noninteractive tzdata
RUN apt-get update -y
RUN apt-get install -y git build-essential sudo

后来,在 Ubuntu docker 我做了。在这个过程中,我删除了 sqlite3 并安装了它的依赖项,我在 following article 中找到了它。之后我重新安装了 python.

sudo apt-get update -y
echo "[ - Removing sqlite3... ]"
sudo apt-get remove -y sqlite3
sudo apt-get purge -y sqlite3
echo "[ - Installing sqlite3 dependencies... ]"
sudo apt-get install -y build-essential bzip2 git libbz2-dev libc6-dev libgdbm-dev libgeos-dev liblz-dev liblzma-dev libncurses5-dev libncursesw5-dev libreadline6 libreadline6-dev libsqlite3-dev libssl-dev lzma-dev python-dev python-pip python-software-properties python-virtualenv software-properties-common sqlite3 tcl tk-dev tk8.5-dev wget
echo "[ - Installing sqlite3... ]"
sudo wget "https://www.sqlite.org/src/tarball/sqlite.tar.gz?r=release" -O sqlite.tar.gz &> /dev/null
sudo tar -xzvf sqlite.tar.gz
cd sqlite
sudo ./configure --enable-fts5
sudo make
sudo make install
cd ..
echo "[ - Reinstalling python... ]"
sudo apt-get remove -y python python3 python-dev
sudo apt-get install -y --reinstall python2.7 python3 python-dev
sudo apt-get install -y build-essential bzip2 git libbz2-dev libc6-dev libgdbm-dev libgeos-dev liblz-dev liblzma-dev libncurses5-dev libncursesw5-dev libreadline6 libreadline6-dev libsqlite3-dev libssl-dev lzma-dev python-dev python-pip python-software-properties python-virtualenv software-properties-common sqlite3 tcl tk-dev tk8.5-dev wget