HyperAIHyperAI

Command Palette

Search for a command to run...

适应或被淘汰:通过BERT语言模型微调实现领域适应的方面目标情感分类

Alexander Rietzler Sebastian Stabinger Paul Opitz Stefan Engl

摘要

方面目标情感分类(ATSC)是基于方面的 sentiment 分析(ABSA)的一个子任务,它在电子商务等领域有着广泛的应用,例如通过利用评论中的数据和见解为企业和客户创造价值。近年来,深度迁移学习方法已成功应用于众多自然语言处理(NLP)任务,包括 ATSC。基于著名的 BERT 语言模型,我们采用两步程序来处理 ATSC:首先进行自监督的领域特定 BERT 语言模型微调,然后进行有监督的任务特定微调。我们的研究发现关于如何最佳利用领域特定语言模型微调的方法使我们在 SemEval 2014 第 4 项任务的餐厅数据集上取得了新的最先进性能。此外,为了探索我们模型在现实世界中的鲁棒性,我们进行了跨域评估。结果显示,经过跨域适应的 BERT 语言模型显著优于像原始 BERT-base 和 XLNet-base 这样的强大基线模型。最后,我们进行了一项案例研究以解释模型预测错误。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供