用于西班牙语文本分类的 GPT-3 状态如何?

What is the state of GPT-3 for text classification in spanish?

我想知道是否可以在不同的语言中重复使用 gpt-3,在这种情况下是西班牙语。

我是否需要专门用西班牙语语料库训练的 gpt-3 模型,或者我可以使用迁移学习来生成西班牙语文本吗?

GPT-3 只能通过 API 获得,并且仅供 apply for the access 的人使用。该模型太大,无法 运行 在任何合理的硬件上本地化,因此 fine-tuning 几乎不是一个选择。

考虑到 GPT-3 在机器翻译方面的表现,我的猜测是它在默认情况下对西班牙语的表现相当不错。但是,如果您的任务是文本分类,则使用 pre-trained BERT-like 模型可以做得更好,Hugginface's Transformers already have several models for Spanish.