如何对合法领域的文本文档进行分类
How to classify text documents in legal domain
我一直在做一个关于class在法律领域（法律判决预测class 的问题).
给定的数据集包含 700 份法律文件（在两个 classes 中很好地平衡）。在应用所有最佳实践（例如删除停用词等）的预处理之后，每个文档有 3 个段落，我可以将它们放在一起或单独考虑。平均而言，文本文档大小为 2285 字。
我的目标是使用不同于 classical n-grams 模型（不考虑任何词序或语义）的东西：
- 使用神经网络 (Doc2Vec) 将每个文档的文本转换为连续域中的向量；为了创建一个包含向量的数据集，表示文档和相应的标签（正如我所说，有 2 个可能的标签：0 或 1）；
- 为 class 验证样本训练 SVM，我一直在使用 10 折交叉验证。
我想知道是否有人在这个特定领域有一些经验，可以建议我其他方法或如何改进模型，因为我没有得到特别好的结果：74% 的准确率。
使用 Doc2Vec 将文本转换为向量并将其用于提供 classifier 是否正确？
我的模特代表：
Doc2Vec 是将可变长度文本转换为摘要向量的合理方法，这些向量通常可用于分类——尤其是主题或情感分类（原始 'Paragraph Vector' 论文中突出显示的两个应用).
但是，700 个文档作为训练集来说是非常小的。已发表的作品倾向于使用数万到数百万文档的语料库。
此外，您的特定分类目标——预测法律判决——让我印象深刻，这比主题或情感分类要难得多。了解案件将如何决定取决于大量外部 law/precedent（不在训练集中）和逻辑推论，有时取决于情况的个别细节。这些是单一文本向量的模糊摘要不太可能捕捉到的东西。
与此相反，您报告的 74% 准确率听起来令人印象深刻。 （一个外行人也会这样做吗，只有这些摘要？）我想知道摘要中是否有某些'tells'——摘要者的用词选择强烈暗示，或直接揭示实际判断。如果这是文本中最强的信号（除非实际领域知识和逻辑推理），您可能会从更简单的 n-grams/bag-of-words 表示和分类器中获得同样好的结果。
对你的训练参数进行元优化可能会逐步改善结果，但我认为你需要更多的数据，也许还需要更先进的学习技术，才能真正接近具有法律能力的人类水平您可能针对的预测。
我一直在做一个关于class在法律领域（法律判决预测class 的问题).
给定的数据集包含 700 份法律文件（在两个 classes 中很好地平衡）。在应用所有最佳实践（例如删除停用词等）的预处理之后，每个文档有 3 个段落，我可以将它们放在一起或单独考虑。平均而言，文本文档大小为 2285 字。
我的目标是使用不同于 classical n-grams 模型（不考虑任何词序或语义）的东西：
- 使用神经网络 (Doc2Vec) 将每个文档的文本转换为连续域中的向量；为了创建一个包含向量的数据集，表示文档和相应的标签（正如我所说，有 2 个可能的标签：0 或 1）；
- 为 class 验证样本训练 SVM，我一直在使用 10 折交叉验证。
我想知道是否有人在这个特定领域有一些经验，可以建议我其他方法或如何改进模型，因为我没有得到特别好的结果：74% 的准确率。
使用 Doc2Vec 将文本转换为向量并将其用于提供 classifier 是否正确？
我的模特代表：
Doc2Vec 是将可变长度文本转换为摘要向量的合理方法，这些向量通常可用于分类——尤其是主题或情感分类（原始 'Paragraph Vector' 论文中突出显示的两个应用).
但是，700 个文档作为训练集来说是非常小的。已发表的作品倾向于使用数万到数百万文档的语料库。
此外，您的特定分类目标——预测法律判决——让我印象深刻，这比主题或情感分类要难得多。了解案件将如何决定取决于大量外部 law/precedent（不在训练集中）和逻辑推论，有时取决于情况的个别细节。这些是单一文本向量的模糊摘要不太可能捕捉到的东西。
与此相反，您报告的 74% 准确率听起来令人印象深刻。 （一个外行人也会这样做吗，只有这些摘要？）我想知道摘要中是否有某些'tells'——摘要者的用词选择强烈暗示，或直接揭示实际判断。如果这是文本中最强的信号（除非实际领域知识和逻辑推理），您可能会从更简单的 n-grams/bag-of-words 表示和分类器中获得同样好的结果。
对你的训练参数进行元优化可能会逐步改善结果，但我认为你需要更多的数据，也许还需要更先进的学习技术，才能真正接近具有法律能力的人类水平您可能针对的预测。