大模型与智能体后训练
研究推理、工具使用与长程交互中的训练目标、奖励设计和过程监督。
- 奖励模型、验证器与过程监督。
- 稀疏或延迟反馈下的长程信用分配。
- 跨任务、跨环境的推理与行动能力迁移。
强化学习系统与基础设施
研究异步训练、长轨迹采样、多环境执行与分布式推理训练。
- 异步采样与训练中的策略滞后控制。
- 长程轨迹的存储、回放与评测。
- 异构环境中的执行调度与资源管理。
递归自我改进
研究智能体如何利用任务经验和环境反馈,持续改进记忆、技能与执行框架。
- 经验记忆与工作记忆的协同更新。
- 失败归因、技能修复与执行框架优化。
- 评测个人智能体能否将保留的经验转化为后续任务中的改进。
- 世界模型引导的行动选择与策略—模型协同更新。
- 数据、环境、验证器、策略与执行框架的协同进化。
- 科研经验的学习、假设关键贡献归因,以及科研模型与执行框架的递归改进。
发现智能
以科学问题、可执行环境和实验反馈研究模型的发现能力。
- 问题发现与定义、表征构建和假设形成。
- 干预与实验,以及基于外部证据的判断修正。
- 跨任务的能力迁移与持续发现改进。
- 科研假设的迭代、可执行研究,以及通过 DFM-Bench 评估研究过程与进展。