HyperAIHyperAI

Command Palette

Search for a command to run...

基于微分方程的潜在空间中可组合的文本控制

Guangyi Liu Zeyu Feng Yuan Gao Zichao Yang Xiaodan Liang Junwei Bao Xiaodong He Shuguang Cui Zhen Li Zhiting Hu

摘要

现实世界中的文本应用通常涉及多种文本控制操作的组合,例如根据特定属性编辑文本、操纵关键词与文本结构,以及生成具备期望特性的新文本。以往的研究通常通过训练或微调语言模型(LM)来实现单一或特定子集的操作。近期研究尝试以即插即用(plug-and-play)的方式组合多种操作,但往往需要在复杂的序列空间中进行代价高昂的搜索或优化。本文提出一种在文本紧凑隐空间中实现可组合文本操作的新颖高效方法。由于文本隐向量具有低维性和可微性,我们能够基于常微分方程(ODE)构建高效的采样器,从而支持任意插件式操作算子(如属性分类器)的灵活接入。通过高效适配将预训练语言模型(如GPT-2)与隐空间连接,我们可将采样得到的隐向量解码为所需的文本序列。该方法具有高度灵活性,能够整合来自不同领域、基于各类相关数据获得的多样化控制算子(如情感、时态、正式程度、关键词等)。实验结果表明,本方法在隐空间中组合多种控制算子,能够有效生成或编辑高质量文本,在生成质量与计算效率方面均显著优于现有方法。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供