Beyond Outlining: Heterogeneous Recursive Planning for Adaptive Long-form Writing with Language Models

作者: Ruibin Xiong, Yimeng Chen, Dmitrii Khizbullin, Jürgen Schmidhuber

发布时间: 2025-03-12

来源: arxiv

研究方向: 长文本生成与写作

主要内容

本文提出了一种基于异构递归规划的框架,用于自适应长文本写作。该框架通过递归任务分解和动态集成检索、推理和创作三种基本任务类型,实现类似人类的自适应写作。

主要贡献

1. 提出了一个基于规划的长期写作视角,将写作过程视为检索、推理和创作任务的集合。

2. 引入了异构递归规划方法,将任务递归分解为具有指定类型的子任务,从而实现灵活的集成和类型特定的控制机制。

3. 开发了一种基于状态的层次任务调度算法,有效地管理自适应执行和动态规划。

4. 实验验证表明,该方法在多个写作领域均优于最先进的方法。

研究方法

1. 递归任务分解

2. 异构任务集成

3. 基于状态的层次任务调度

4. 混合专家框架

5. 多阶段训练方法

实验结果

在叙事生成和报告生成任务上进行的实验表明,该方法在所有自动评估指标上均优于最先进的方法。此外,消融实验验证了递归策略和任务类型感知的重要性。

未来工作

未来的工作将探索优化递归分解过程的计算效率,探索异构代理的集成,以及将人类反馈集成到规划和写作阶段。