Nodejs Sqlite3 没有刷新到磁盘

Question

我遇到了 sqlite3 没有刷新到磁盘的问题。我正在使用的代码如下。我的总文件列表超过 470k，程序往往使用几千兆字节的内存。而程序是运行 test.db 是 0 字节并且没有使用日志。它仅在 db.close() 为运行时才开始写入磁盘。

var fs = require('fs');
var sqlite3 = require('sqlite3').verbose();
var db = new sqlite3.Database('test.db');

db.serialize(function () {
    db.run("BEGIN;");
    db.run("CREATE TABLE if not exists Files (name TEXT);");
    db.run("COMMIT;");
    var files = fs.readdirSync("./files/");
    console.log("File list completed: " + files.length);
    for (var i = 0; i < files.length; i++) {
        db.run("INSERT INTO Files VALUES (?);",files[i]);
    }
});
db.close();

我已经尝试删除 db.run("BEGIN;"); 和 db.run("COMMIT;"); 但没有帮助。

错误?

我将此报告为 github

上的错误

Answer 1

我认为 transaction 和 db.serialize 有问题。
db.serialize 是不受控制的代码。不知道什么时候有用
尝试如下控制流程

var fs = require('fs');
var sqlite3 = require('sqlite3'); 
var async = require('async');

var db = new sqlite3.Database('test.db');

async.series ([
        function(cb) { 
            db.run('CREATE TABLE if not exists Files (name TEXT)', cb);
        },

        function(cb) { 
            db.run('begin transaction', cb); 
        },

        function(cb) {
            var files = fs.readdirSync("./files/");
            async.each(
                files, 
                function(file, cb) { db.run('INSERT INTO Files VALUES (?)', file, cb); }, 
                cb  
            );
        },

        function(cb) {
            db.run('commit transaction', cb);
        }
    ],
    function(err) {
        if (err) {
            console.log(err);
            db.run('rollback transaction'); // can fail if error occurs on create table
        }
        db.close();
    }
)

如果你不需要insert all rows or nothing那你可以试试下一个代码

var fs = require('fs');
var sqlite3 = require('sqlite3'); 
var async = require('async');

var db = new sqlite3.Database('test.db');

db.run('CREATE TABLE if not exists Files (name TEXT)', function (err) {
    if (err)
        return console.log(err);

    var files = fs.readdirSync("./files/");
    async.eachSeries(
        files, 
        function(file, cb) { db.run('INSERT INTO Files VALUES (?)', file, cb); }, 
        function(err) {
            console.log((err) ? err : 'Done');
            db.close();
        }  
    );
});

Nodejs Sqlite3 没有刷新到磁盘

Nodjs Sqllite3 not flushing to disk

sqlite

node.js

node-sqlite3