如何在 node.js 中迭代 mongodb 数据库以发送到 Algolia？

Question

在 Algolia 的文档中，对于 node.js 部分，他们指定使用 MySQL 进行索引而不是 MongoDB，关于这个问题我还有另一个问题，但它更像是一个一般问题，

有些人让我使用 mongo-connector 但我试过了，但我遇到了一些未知错误，这让我不得不接受

我真正的问题是，如何将 mongodb 中的集合列表迭代到 algolia？

这是 Node.js

中 MySQL 的 Algolia 版本

var _ = require('lodash');
var async = require('async');
var mysql = require('mysql');

var algoliasearch = require('algoliasearch');
var client = algoliasearch("RQGLD4LOQI", "••••••••••••••••••••••••••••••••");
var index = client.initIndex('YourIndexName');

var connection = mysql.createConnection({
  host: 'localhost',
  user: 'mysql_user',
  password: 'mysql_password',
  database: 'YourDatabaseName'
});

connection.query('SELECT * FROM TABLE_TO_IMPORT', function(err, results, fields) {
  if (err) {
    throw err;
  }

  // let's use table IDS as Algolia objectIDs
  results = results.map(function(result) {
    result.objectID = result.id;
    return result;
  });

  // split our results into chunks of 5,000 objects, to get a good indexing/insert performance
  var chunkedResults = _.chunk(results, 5000);

  // for each chunk of 5,000 objects, save to algolia, in parallel. Call end() when finished
  // or if any save produces an error
  // https://github.com/caolan/async#eacharr-iterator-callback
  async.each(chunkedResults, index.saveObjects.bind(index), end);
});

function end(err) {
  if (err) {
    throw err;
  }

  console.log('MySQL<>Algolia import done')
};

具体来说，我使用 mongoose 作为我的 ORM，所以我没有使用其他库的经验。请帮我解决这个问题，这样我就可以搜索一些界面了:(.

Answer 1

您可以使用以下代码迭代整个 MongoDB mydb.myCollection 集合 + 创建将发送到 Algolia 索引的批次：

var Db = require('mongodb').Db,
    Server = require('mongodb').Server,
    algoliasearch = require('algoliasearch');

// init Algolia index
var client = algoliasearch("*********", "••••••••••••••••••••••••••••••••");
var index = client.initIndex('YourIndexName');

// init connection to MongoDB
var db = new Db('mydb', new Server('localhost', 27017));
db.open(function(err, db) {
  // get the collection
  db.collection('myCollection', function(err, collection) {
    // iterate over the whole collection using a cursor
    var batch = [];
    collection.find().forEach(function(doc) {
      batch.push(doc);
      if (batch.length > 10000) {
        // send documents by batch of 10000 to Algolia
        index.addObjects(batch);
        batch = [];
      }
    });
    // last batch
    if (batch.length > 0) {
      index.addObjects(batch);
    }
  });
});

如何在 node.js 中迭代 mongodb 数据库以发送到 Algolia？

How to iterate mongodb database in node.js to send to Algolia?

mongoose

mongodb

node.js

algolia