HyperAIHyperAI

Command Palette

Search for a command to run...

赋予BERT计算能力:通过阅读理解寻找运算符和参数

Daniel Andor Luheng He Kenton Lee Emily Pitler

摘要

阅读理解模型已成功应用于抽取式文本答案,但如何将其最佳地推广到抽象数值答案仍不清楚。我们使基于BERT的阅读理解模型能够执行轻量级数值推理。通过增加一组预定义的可执行“程序”(programs),这些程序涵盖了简单的算术运算以及信息提取,模型无需直接学习数字操作,而是可以选择并执行这些程序。在最近发布的旨在挑战阅读理解模型的Discrete Reasoning Over Passages (DROP)数据集上,我们通过添加浅层程序展示了33%的绝对改进。当数学文字问题设置(Roy和Roth, 2015)中需要新的操作时,该模型可以在非常少的训练样本下学习预测这些新操作。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供