Improving Open-world Continual Learning under the Constraints of Scarce Labeled Data

作者: Yujie Li, Xiangkun Wang, Xin Yang, Marcello Bonsangue, Junbo Zhang, Tianrui Li

发布时间: 2025-03-03

来源: arxiv

研究方向: 开放世界持续学习(OWCL)与稀缺标签数据下的持续学习(OFCL)

主要内容

本文针对稀缺标签数据下的开放世界持续学习问题,提出了一种名为OFCL的新框架,旨在解决开放检测和知识迁移的挑战。该框架通过三个关键组件实现:实例级token增强(ITA)、基于边界的开放边界(MOB)和自适应知识空间(AKS)。

主要贡献

1. 提出了稀缺标签数据下的开放世界持续学习(OFCL)问题,并尝试解决开放检测和知识迁移的挑战。

2. 引入了实例级token增强(ITA)以增强嵌入的语义信息并减轻遗忘。

3. 提出了基于边界的开放边界(MOB)和自适应知识空间(AKS)来整合从已知和未知中学习到的知识,促进知识迁移、积累和更新。

4. 与竞争的OWCL方法和少量样本增量学习方法以及开放检测基线进行了广泛的比较,证明了所提出的OFCL框架的优越性能。

研究方法

1. 实例级token增强(ITA)

2. 基于边界的开放边界(MOB)

3. 自适应知识空间(AKS)

实验结果

实验结果表明,所提出的OFCL框架在CUB200和MiniImageNet数据集上均优于所有基线方法,表明其在实际应用中的重要性。

未来工作

未来工作将集中在将LLMs集成到模型中,提高未知样本的知识表示,并开发测试时自适应方法以改进知识表示。