改善（模糊）相似性搜索结果的最佳方法？

Question

This question may like a duplicate question but I’m giving it back because I couldn’t perfect a solution.

很抱歉。现在我正在研究药物搜索引擎。用户不能总是输入准确的药物名称。根据用户输入的字符，我需要为他们获得更好的结果。但现在不是了。我应该怎么做才能更准确地做结果？例如，DB 中有信息：Анальгин, Цитрамон-П, Лирика-75мг，等等...（在Cyrillic 中）。如果用户输入拉丁字母，系统会将其转换为西里尔字母并搜索。所以，我需要：即使用户在 Цитрамон, cитрамон, ииттрамон or cтрамон 中输入单词，结果也应该 return Цитрамон。或者如果用户输入：Лирика, ЛЛЛирика, иииррика, Лика or Лирик，结果应该是 return Лирика。或者 Аналгин, Анагин ... 应该 returns Анальгин。我应该得到类似的结果。我尝试了几种搜索算法和包（Laravel-Searchy、Laravel Scout、TNTSearch 等）但无济于事。现在搜索正在运行，但结果 returning 与 SQL LIKE 运算符中的结果相同。此外，我尝试使用 Levenstein 距离，如下所示：我的搜索变量：

 $data = [];
 //dd($request->all());
 $search = _ltc($request->qry); // convert input text between latin and crylic 
  $data = Drug::selectRaw('*, levenshtein(?, `name`) as `diff`', [$search])
                ->havingBetween('diff', [0,4])
                ->limit(10)
                ->get();

还有我的 SQL levenshtein 函数：

CREATE DEFINER = 'root'@'localhost'
  FUNCTION arzondori.levenshtein(s1 VARCHAR(255), s2 VARCHAR(255) )
  RETURNS INT(11)
 DETERMINISTIC
BEGIN 
DECLARE s1_len, s2_len, i, j, c, c_temp, cost INT; 
DECLARE s1_char CHAR; 
-- max strlen=255 
DECLARE cv0, cv1 VARBINARY(256); 
SET s1_len = CHAR_LENGTH(s1), s2_len = CHAR_LENGTH(s2), cv1 = 0x00, j = 1, i = 1, c = 0; 
IF s1 = s2 THEN 
 RETURN 0; 
 ELSEIF s1_len = 0 THEN 
 RETURN s2_len; 
 ELSEIF s2_len = 0 THEN 
 RETURN s1_len; 
ELSE 
WHILE j <= s2_len DO 
 SET cv1 = CONCAT(cv1, UNHEX(HEX(j))), j = j + 1; 
END WHILE; 
WHILE i <= s1_len DO 
 SET s1_char = SUBSTRING(s1, i, 1), c = i, cv0 = UNHEX(HEX(i)), j = 1; 
WHILE j <= s2_len DO 
  SET c = c + 1; 
  IF s1_char = SUBSTRING(s2, j, 1) THEN  
    SET cost = 0; ELSE SET cost = 1; 
  END IF; 
  SET c_temp = CONV(HEX(SUBSTRING(cv1, j, 1)), 16, 10) + cost; 
  IF c > c_temp THEN SET c = c_temp; END IF; 
    SET c_temp = CONV(HEX(SUBSTRING(cv1, j+1, 1)), 16, 10) + 1; 
    IF c > c_temp THEN  
      SET c = c_temp;  
    END IF; 
   SET cv0 = CONCAT(cv0, UNHEX(HEX(c))), j = j + 1; 
  END WHILE; 
      SET cv1 = cv0, i = i + 1; 
     END WHILE; 
    END IF; 
   RETURN c; 
  END

我还考虑了以下选项。:

$data = Drug::select("id", "name")
                ->where('name', 'LIKE', "%$search%")
                ->get();
 $data5 = Searchy::search('drugs')
                   ->fields('name')
                   ->query($search)
                   ->select('id', 'name')
                   ->get();

任何人都可以帮助找到解决这个问题的方法吗？如果问题有点混乱，请提前道歉！谢谢！

Answer 1

这将很难以您尝试的方式解决。你需要一个像 Sphinx 或弹性搜索这样的全文搜索引擎。它支持语言和模糊搜索。更多信息请点击此处：https://en.wikipedia.org/wiki/Full-text_search

我推荐狮身人面像： http://sphinxsearch.com/docs/sphinx3.html#features-overview

但是文档非常繁重。另一个选择是 elasticsearch，它有很好的文档。

尝试发明这个你自己会非常棘手，你需要时间才能得到好的结果。

Answer 2

我知道您已经接受了另一个答案，像 Sphinx 或 Elasticsearch 这样的全文搜索工具是一个不错的选择，但对于您的用例，还有一个可能更简单。

您没有提到您使用的是什么数据库，但其中许多至少对全文搜索有一定的支持。例如，在 MariaDB 和 MySQL 中，您可以针对 FULLTEXT 索引进行搜索。首先你需要创建索引：

ALTER TABLE drugs ADD FULLTEXT (name);

然后，您可以将查询中的 LIKE 子句替换为针对索引列的 MATCH 子句，如本例所示：

Drug::whereRaw('MATCH(name) AGAINST (?)', [$search]);

全文搜索有很多选项，所以如果您想扩展它以允许结果中或多或少的歧义，或者根据匹配质量对结果进行排序，这是可能的，但不知道是什么数据库您正在使用我无法详细说明，所以我建议您查看数据库的文档。与全文索引匹配不仅允许比 LIKE 子句更多的歧义，而且它的性能也更高。如果您的用例足够简单，不需要单独的搜索后端（听起来确实如此），那么您的数据库的全文搜索功能可能就足够了，而且它可能比集成 Elasticsearch 更快更容易。

改善（模糊）相似性搜索结果的最佳方法？

Best way to improve (fuzzy) search results for similarities?

php

sql

laravel

levenshtein-distance

fuzzy-search