Improving Open-world Continual Learning under the Constraints of Scarce Labeled Data
作者: Yujie Li, Xiangkun Wang, Xin Yang, Marcello Bonsangue, Junbo Zhang, Tianrui Li
发布时间: 2025-03-03
来源: arxiv
研究方向: 开放世界持续学习(OWCL)与稀缺标签数据下的持续学习(OFCL)
主要内容
本文针对稀缺标签数据下的开放世界持续学习问题,提出了一种名为OFCL的新框架,旨在解决开放检测和知识迁移的挑战。该框架通过三个关键组件实现:实例级token增强(ITA)、基于边界的开放边界(MOB)和自适应知识空间(AKS)。
主要贡献
1. 提出了稀缺标签数据下的开放世界持续学习(OFCL)问题,并尝试解决开放检测和知识迁移的挑战。
2. 引入了实例级token增强(ITA)以增强嵌入的语义信息并减轻遗忘。
3. 提出了基于边界的开放边界(MOB)和自适应知识空间(AKS)来整合从已知和未知中学习到的知识,促进知识迁移、积累和更新。
4. 与竞争的OWCL方法和少量样本增量学习方法以及开放检测基线进行了广泛的比较,证明了所提出的OFCL框架的优越性能。
研究方法
1. 实例级token增强(ITA)
2. 基于边界的开放边界(MOB)
3. 自适应知识空间(AKS)
实验结果
实验结果表明,所提出的OFCL框架在CUB200和MiniImageNet数据集上均优于所有基线方法,表明其在实际应用中的重要性。
未来工作
未来工作将集中在将LLMs集成到模型中,提高未知样本的知识表示,并开发测试时自适应方法以改进知识表示。