HyperAIHyperAI

Command Palette

Search for a command to run...

奇异值微调:少样本分割仅需少量参数微调

Yanpeng Sun Qiang Chen Xiangyu He Jian Wang Haocheng Feng Junyu Han Errui Ding Jian Cheng Zechao Li Jingdong Wang

摘要

在少样本分割任务中,冻结预训练主干网络(backbone)已成为避免过拟合的标准范式。本文重新审视这一范式,探索一种新策略:仅微调主干网络中少量参数。我们提出一种有效方法,以克服过拟合问题,从而提升模型在学习新类别时的泛化能力。所提方法通过奇异值分解(Singular Value Decomposition, SVD)将主干网络的参数分解为三个连续矩阵,并仅对奇异值进行微调,其余部分保持冻结。该设计使模型能够在新类别上灵活调整特征表示,同时保留预训练主干网络中的语义信息。我们在多种基于不同主干网络的少样本分割方法上评估了所提出的奇异值微调(Singular Value Fine-tuning, SVF) 方法,在Pascal-5i^ii和COCO-20i^ii数据集上,无论是一次学习(1-shot)还是五次学习(5-shot)设置,均取得了当前最优性能。我们期望这一简洁的基线方法能促使研究者重新思考主干网络微调在少样本场景中的作用。相关源代码与模型将公开于:https://github.com/syp2ysy/SVF


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供