在本地机器上利用拼写检查器?

Leveraging Spell Checker on local machine?

我注意到给定机器上的常用应用程序(Mac、Linux 或 Windows)具有各自的拼写检查程序。从各种 IDE,到 MS Word/Office,再到笔记软件。

我正在尝试利用我们各自机器的内置实用程序来分析字符串的句法正确性。看来我不能只使用机器上的东西,可能必须下载一本字典来进行比较。

我不确定是否有更好的方法来完成此操作。我正在考虑尝试在本地做事,但我并不反对做 api 或 curl 请求来确定字符串中的单词是否拼写正确。

我在看:

我在查看 Node 包时注意到拼写检查器模块也封装了单词表。

有没有办法利用内置的机器词典,或者如果我下载一个词典/词表来比较是否是理想的?

我认为单词列表可能是最好的选择,但我不想重新发明轮子。其他人做了什么来实现类似的目标?

您的问题同时被标记为 NodeJS 和 Python。这是 NodeJS 的特定部分,但我想它与 python.

非常相似

Windows(从 Windows 8 开始)和 Mac OS X 确实有内置的拼写检查引擎。

  • Windows: "Windows Spell Checking API" 是 C/C++ API。要将它与 NodeJS 一起使用,您需要创建一个绑定。
  • Mac OS X: "NSSpellChecker" 是 AppKit 的一部分,用于 GUI 应用程序。这是一个 Objective-C API,因此您需要再次创建绑定。
  • Linux:这里没有"OS specific"API。大多数应用程序使用 Hunspell,但也有其他选择。这又是一个 C/C++ 库,因此需要绑定。

幸运的是,已经有一个名为 spellchecker 的模块绑定了上述所有内容。这将使用安装它的平台的内置系统,但有多个缺点:

1) 必须构建本机扩展。这个已经通过 node-pre-gyp 完成了二进制文件,但是这些需要为特定平台安装。如果您在 Mac OS X 上开发,运行 npm install 获取软件包,然后在 Linux 上部署您的应用程序(使用 node_modules-目录),它不会工作。

2) 使用内置拼写检查将使用 OS 指定的默认值,这可能不是您想要的。例如,使用的语言可能由所选 OS 语言决定。对于 UI 应用程序(例如使用 Electron 构建)这可能没问题,但如果您想使用 OS 语言以外的语言进行服务器端拼写检查,这可能会很困难。


在基本层面,拼写检查一些文本归结为:

  1. 标记字符串(例如按空格)
  2. 根据已知正确单词列表检查每个标记
  3. (奖励)收集错误标记的建议并为用户提供选项。

您可以自己编写第 1 部分。第 2 部分和第 3 部分需要 "list of known correct words" 或字典。幸运的是,已经有一种格式和工具可以使用它:

有了这个,您可以选择语言,您不需要 build/download 任何本机代码,您的应用程序将在每个平台上都以相同的方式运行。如果您在服务器上进行拼写检查,这可能是您最灵活的选择。

感谢 Lukas Knuth。我想明确说明如何使用字典和 nspell。

安装以下 2 个依赖项:

npm install nspell dictionary-en-us

这是我为解决问题而编写的示例文件。

// Node File

//  node spellcheck.js [path]
//  path: [optional] either absolute or local path from pwd/cwd

//  if you run the file from within Seg.Ui.Frontend/ it works as well.
//    node utility/spellcheck.js
//  OR from the utility directory using a path:
//    node spellcheck.js ../src/assets/i18n/en.json

var fs = require("fs");
var dictionary = require("dictionary-en-us");
var nspell = require("nspell");
var process = require("process");
// path to use if not defined.
var path = "src/assets/i18n/en.json"

let strings = [];
function getStrings(json){
    let keys = Object.keys(json);
    for (let idx of keys){
        let val = json[idx];
        if (isObject(val)) getStrings(val);
        if (isString(val)) strings.push(val)
    }
}

function sanitizeStrings(strArr){
    let set = new Set();
    for (let sentence of strArr){
        sentence.split(" ").forEach(word => {
            word = word.trim().toLowerCase();
            if (word.endsWith(".") || word.endsWith(":") || word.endsWith(",")) word = word.slice(0, -1);
            if (ignoreThisString(word)) return;
            if (word == "") return;
            if (isNumber(word)) return;
            set.add(word)
        });
    }
    return [ ...set ];
}

function ignoreThisString(word){
    // we need to ignore special cased strings, such as items with
    //  Brackets, Mustaches, Question Marks, Single Quotes, Double Quotes
    let regex = new RegExp(/[\{\}\[\]\'\"\?]/, "gi");
    return regex.test(word);
}

function spellcheck(err, dict){
    if (err) throw err;
    var spell = nspell(dict);
    let misspelled_words = strings.filter( word => {
        return !spell.correct(word)
    });
    misspelled_words.forEach( word => console.log(`Plausible Misspelled Word: ${word}`))
    return misspelled_words;
}

function isObject(obj) { return obj instanceof Object }
function isString(obj) { return typeof obj === "string" }
function isNumber(obj) { return !!parseInt(obj, 10)}

function main(args){
    //node file.js path
    if (args.length >= 3) path = args[2]
    if (!fs.existsSync(path)) {
        console.log(`The path does not exist: ${process.cwd()}/${path}`);
        return;
    }
    var content = fs.readFileSync(path)
    var json = JSON.parse(content);
    getStrings(json);
    // console.log(`String Array (length: ${strings.length}): ${strings}`)
    strings = sanitizeStrings(strings);
    console.log(`String Array (length: ${strings.length}): ${strings}\n\n`)

    dictionary(spellcheck);
}
main(process.argv);

这将 return 要查看的字符串子集,它们可能拼写错误或误报。

误报将表示为:

  • 首字母缩略词
  • 单词的非美国英语变体
  • 无法识别专有名词,例如星期几和月份。
  • 包含括号的字符串。这可以通过从单词中删除它们来增强。

显然,这并不适用于所有情况,但我添加了一个忽略此字符串函数,如果说它包含开发人员希望忽略的特殊单词或短语,您可以利用它。

这意味着 运行 作为节点脚本。