Beyond Outlining: Heterogeneous Recursive Planning for Adaptive Long-form Writing with Language Models
作者: Ruibin Xiong, Yimeng Chen, Dmitrii Khizbullin, Jürgen Schmidhuber
发布时间: 2025-03-12
来源: arxiv
研究方向: 长文本生成与写作
主要内容
本文提出了一种基于异构递归规划的框架,用于自适应长文本写作。该框架通过递归任务分解和动态集成检索、推理和创作三种基本任务类型,实现类似人类的自适应写作。
主要贡献
1. 提出了一个基于规划的长期写作视角,将写作过程视为检索、推理和创作任务的集合。
2. 引入了异构递归规划方法,将任务递归分解为具有指定类型的子任务,从而实现灵活的集成和类型特定的控制机制。
3. 开发了一种基于状态的层次任务调度算法,有效地管理自适应执行和动态规划。
4. 实验验证表明,该方法在多个写作领域均优于最先进的方法。
研究方法
1. 递归任务分解
2. 异构任务集成
3. 基于状态的层次任务调度
4. 混合专家框架
5. 多阶段训练方法
实验结果
在叙事生成和报告生成任务上进行的实验表明,该方法在所有自动评估指标上均优于最先进的方法。此外,消融实验验证了递归策略和任务类型感知的重要性。
未来工作
未来的工作将探索优化递归分解过程的计算效率,探索异构代理的集成,以及将人类反馈集成到规划和写作阶段。