bert + 文本和结构化数据

Question

对于每个实例，我都有文本和表格数据。我想知道是否有任何方法可以使用 Bert_classification 并结合结果对整个数据集进行分类而不会过度拟合。有没有什么办法可以把文本和表格数据做成两种不同的分类，并结合在一起呢？

Answer 1

BERT 可以 return 一个向量，即所谓的 [CLS] 向量，可以用作任何其他模型的输入。因此，答案是肯定的：您可以使用 BERT 处理您的文本并获得单向量表示，获得您对表格数据所做的任何 representation/features，连接它们并在它们之上训练分类器。