返回模型列表

WorkForge – 腾讯联合复旦推出的智能体训练环境构建框架深度评测

AI科技编辑部
RSS 订阅

导读摘要:

WorkForge是腾讯混元与复旦大学联合推出的智能体训练环境构建框架,旨在解决当前智能体训练中高质量长程任务数据稀缺的核心瓶颈。该框架从专家工作流蓝图出发,通过获取智能体自动检索真实世界资源搭建工作区,基于工作区中的事实锚点生成任务指令与双重验证标准,让智能体在执行过程中产出可追溯的轨迹数据。目前WorkForge已建成16.7K个可验证环境,横跨40个专业领域,可将35B模型的GDPval得分...

Spec card summarizing license, parameters, context window and release date extracted from this article

1. WorkForge是什么

WorkForge是腾讯混元与复旦大学联合推出的智能体训练环境构建框架,旨在解决当前智能体训练中高质量长程任务数据稀缺的核心瓶颈。该框架从专家工作流蓝图出发,通过获取智能体自动检索真实世界资源搭建工作区,基于工作区中的事实锚点生成任务指令与双重验证标准,让智能体在执行过程中产出可追溯的轨迹数据。目前WorkForge已建成16.7K个可验证环境,横跨40个专业领域,可将35B模型的GDPval得分提升28分,逼近前沿模型水平,为智能体的职场任务执行能力训练提供了规模化、可验证的数据生产范式。

技术定位与领域: WorkForge属于智能体训练数据工程与评测验证的交叉领域,专注于解决大语言模型在真实职场环境中长程任务执行能力的训练数据供给问题。其独特定位在于将"环境构建—任务生成—结果验证"整合为一条自动化管线,使训练数据的生产不再依赖昂贵的手工标注。

研发背景: 该框架由腾讯混元大模型团队与复旦大学计算机科学技术学院联合研发,双方在基础模型训练、智能体系统与数据工程方面有深厚积累。研发动机源于业界普遍面临的"环境真实性与任务可验证性"两难困境——LLM合成环境虽然成本低但缺乏真实操作的复杂性,而手工构建环境则成本高昂难以规模化。

核心价值: WorkForge解决了智能体训练中三个层面的实际问题:一是以真实世界资源替代LLM合成数据,使训练环境具备真实的目录结构、文件依赖和操作摩擦;二是通过事实锚点驱动机制确保任务与验证标准可追溯至工作区中的具体证据,杜绝幻觉式评测要求;三是通过全自动管线将环境构建成本从数周人工缩短至批量生成,实现16.7K环境的规模化产出。

技术特点: WorkForge的核心技术优势体现在"事实锚点驱动的任务-验证共生设计"与"程序化+语义双轨验证机制"两大创新上。前者确保任务指令、参考解法和评分细则全部从工作区可观察事实推导,后者通过互补的验证信号捕捉交付质量的不同维度,使混合筛选效果(ALE 22.11)显著优于单用任一信号(15.62/14.89)。

2. 主要功能

  • 场景蓝图构建: 该模块负责将专家经验沉淀为可复用的工作流模板,明确定义交付物类型、所需资源以及关键决策点。蓝图作为任务生成的顶层约束,确保了不同实例之间在结构上的统一性与专业性,使同一领域内的任务具有可比较的难度梯度。

  • 真实工作区合成: 由获取智能体迭代执行搜索—阅读—下载—预览循环,从网络采集真实代码仓库、数据集与网页资料,并按原始目录结构搭建工作区。对照实验显示,真实工作区的文件数是LLM合成环境的5.4倍、文件类型为2.4倍、体积为13倍,证据分散在多级目录树中,迫使智能体先探索再判断。

  • 环境画像与事实锚点提取: 系统自动分析工作区中每个文件的角色定位、跨文件依赖关系,并记录可直接核对的"事实支撑"条目。该画像结果构成后续所有任务生成与验证操作的事实基础,确保每个任务指令都能在工作区中找到对应的具体证据。

  • 任务生成: 结合场景蓝图与环境画像,自动产出扎根于工作区实际内容的任务指令和隐藏参考解法。参考解法中的关键事实会回工作区进行复核,确保任务的可执行性与答案的准确性,从源头杜绝幻觉式评测要求。

  • 双重验证机制: 由程序化验证器与LLM语义评委双轨构成。程序化验证器按指示函数核对数值正确性、目标文件是否生成、工作区状态是否符合预期;语义验证器由LLM评委按评分细则对开放式交付物逐项打分并归一化。双轨分数分开保留,可灵活配置筛选策略。

  • 轨迹采集与评分: 在智能体仅可见工作区和任务说明的条件下自主执行任务,全过程操作(平均31.8步、7.6万tokens)连同最终得分一并保存为训练数据。这种长程交互轨迹完整覆盖探索、取证、纠错、交付的完整工作流程,为模型后训练提供高质量素材。

  • 规模化环境产出: 基于统一管线一键生成16.7K个可验证工作环境,覆盖40个专业领域和60种文件类型,大幅降低手工构建环境的工程成本,使大规模智能体训练数据生产成为可能。

  • 智能体后训练: 利用产出的长程轨迹数据对模型进行微调,显著提升其职场任务执行能力。实验表明A3B模型GDPval提升28.1分,全面领先所有<100B专用智能体模型;27B模型甚至反超15倍参数量的397B模型。

3. 如何使用

WorkForge目前定位为研究框架,论文中尚未公开具体的代码库或数据集下载渠道。以下使用流程基于论文描述的研究范式整理:

  1. 环境准备: 研究者需准备具备充足计算资源的服务器环境,推荐配置NVIDIA A100/H100级别GPU用于模型推理与训练。软件层面需安装Python 3.9+、PyTorch 2.0+及HuggingFace Transformers库,并配置好网络访问权限以支持获取智能体从互联网检索真实资源。

  2. 定义场景蓝图: 研究者需将目标领域的专家经验结构化,定义交付物类型(如报告、表格、PPT)、所需资源类别(代码仓库、数据集、网页资料)以及关键决策点。蓝图质量直接影响后续任务生成的针对性,建议从单一垂直领域起步逐步扩展。

  3. 配置获取智能体: 设置获取智能体的搜索策略、下载过滤规则与预览验证逻辑。该智能体负责从GitHub、公开数据集平台及网页中采集资源,并按原始目录结构搭建工作区。需注意配置合理的下载白名单与安全过滤机制,避免引入恶意代码或违规内容。

  4. 执行环境构建与画像: 运行构建管线生成工作区,随后触发画像模块分析每个文件的角色、依赖关系与事实锚点。此阶段输出环境画像报告,研究者可抽样检查画像质量,确保事实锚点提取的准确性。

  5. 生成任务与验证标准: 基于蓝图与画像自动生成任务指令、参考解法、程序化检查项和语义评分细则。建议对生成结果进行人工抽检,确认任务难度适中、验证标准可执行,必要时调整蓝图参数重新生成。

  6. 采集轨迹并后训练: 在受控环境中让目标智能体执行任务,采集完整操作轨迹与得分。随后使用轨迹数据对模型进行监督微调或强化学习,评估GDPval、APEX、ALE等基准指标的改进效果。

4. 优缺点分析

优点
真实资源驱动的环境真实性: 从真实世界仓库/数据集构建工作区,文件数、类型数和体积分别是LLM合成环境的5.4倍、2.4倍和13倍,证据分散在目录树中,训练环境具有真实操作摩擦。
事实锚点驱动的可溯源验证: 任务、参考解法和评分标准全部从工作区"事实锚点"推导,关键事实回工作区复核,杜绝幻觉式评测要求,验证标准具有可追溯性。
程序化+语义双轨验证互补: 程序化检查(数值/文件)与LLM语义评分相结合,混合筛选效果(ALE 22.11)显著优于单用任一信号(15.62/14.89),捕捉交付质量的不同维度。
长程交互训练数据质量高: 平均31.8步、7.6万tokens的真实探索轨迹,让模型学到探索、取证、纠错、交付的完整工作过程,训练数据具有深度和复杂性。
规模化能力突出: 一条管线产出16.7K个环境,横跨40个领域,相比手工构建环境大幅降低工程成本,具备工业级数据生产能力。
性能提升显著: A3B模型GDPval提升28.1分,全面领先所有<100B专用智能体模型;27B模型反超15倍参数量的397B模型,训练效果具有说服力。

5. 同类工具对比

对比维度 WorkForge(腾讯混元×复旦) ClawGym(人大高瓴等) AgentBench(Tsinghua等)
核心思路 从真实世界资源检索构建工作区,先画像后出题,事实锚点驱动任务生成 可扩展框架构建Claw Agent训练环境,侧重环境自动合成 跨平台智能体评测基准,覆盖操作系统、数据库、游戏等场景
工作区真实性 真实资源,平均42.3个文件/279KB,证据分散在多级目录 合成环境为主,工作区相对简单、线索集中(被归为"toy workspace") 真实可交互环境,但以单一任务类型为主,文件复杂度较低
验证机制 事实锚点驱动+程序化与语义双轨验证,标准可追溯至工作区证据 环境合成与训练框架,验证可追溯性未作为核心设计 基于预设答案的自动评测,验证维度以结果正确性为主
数据规模 16.7K环境、40个专业领域、60种文件类型 面向Claw Agent的可扩展框架,领域覆盖以通用助理/终端场景为主 8个环境、覆盖操作系统/数据库/游戏等,规模相对有限
轨迹特征 平均31.8步/7.6万tokens,典型长程交互 轨迹长度和交互深度相对较低 单任务轨迹较短,交互深度有限
训练效果 A3B:GDPval 73.6、APEX 21.3、ALE Pass@1 12.4% ClawGym-30A3:GDPval 35.0、APEX 2.5、ALE Pass@1 2.9% 主要用于评测而非训练,不直接提供训练数据
部署方式 研究框架,论文未公开代码与数据 开源框架,支持自定义环境扩展 开源基准,支持本地部署评测

选型建议: 对于智能体训练数据生产场景,WorkForge凭借真实工作区与长程轨迹数据优势,是当前更优的选择,尤其适合需要培养模型在杂乱文件环境中探索、取证与交付能力的研发团队。其16.7K环境的规模化能力,使企业能够以较低成本获得高质量训练数据。

对于智能体能力评测场景,AgentBench和τ-bench提供了更成熟的标准化评测协议,适合需要跨团队横向对比的场景。ClawGym则适合需要在统一框架下快速验证不同环境构建策略的研究团队,但其合成环境的真实性与WorkForge存在明显差距。

6. 编辑总结

WorkForge在智能体训练数据工程领域展现出了明确的技术创新性。其核心贡献在于将"环境构建—任务生成—结果验证"整合为一条可规模化运行的自动化管线,并以事实锚点机制解决了长期困扰业界的评测可溯源问题。从实验数据来看,A3B模型GDPval提升28.1分、27B模型反超397B模型的结果,为"数据质量决定模型能力上限"这一假设提供了有力佐证。

从实用价值角度分析,WorkForge对智能体产业化的推动意义体现在三个层面:其一,将环境构建成本从人工数周压缩至管线批量生成,使数据生产具备工业级效率;其二,真实工作区带来的操作摩擦和长程交互需求,使训练数据更贴近实际职场场景,提升了模型迁移到真实任务的成功率;其三,程序化与语义双轨验证机制为智能体能力评估提供了可复用的方法论参考。

适用人群方面,该框架主要面向三类用户:需要大规模训练数据的企业AI实验室、从事智能体数据工程研究的学术团队、以及需要批量构建垂类Agent评测环境的研发机构。对于个人开发者而言,当前论文未开源的状态意味着尚需等待官方发布。

未来发展潜力层面,WorkForge的架构设计具备良好的扩展性——场景蓝图机制允许快速迁移到新领域,双轨验证机制可适配更多任务类型。若团队能按计划开源代码与数据集,并持续扩充领域覆盖,其有望成为智能体训练数据基础设施的重要选项。值得关注的是,如何平衡资源采集的合规性与环境构建的效率,将是其规模化落地过程中需要持续解决的问题。

7. 应用场景

  • 智能体训练数据生产: 企业或研究机构可使用WorkForge为特定垂直领域规模化生成高质量长程轨迹数据,用于后训练自有工作智能体。相比手工构建环境的传统方式,该方案可将数据生产成本降低数个量级,同时保证数据的真实性与可验证性。

  • 职场数字员工培养: 针对办公、数据分析、金融、教育等40个专业领域,WorkForge可训练能交付报告、表格、PPT等真实交付物的"数字员工"。这些模型在完成实际工作任务时,具备探索文件系统、交叉核对多源信息、迭代修正交付物的完整能力。

  • 智能体能力评测: 其事实锚点驱动的双轨验证机制可作为评测范式,用于检验智能体在杂乱文件环境中的探索、取证与交付能力。评测机构可基于WorkForge构建标准化评测集,对智能体的长程任务执行能力进行量化评估。

  • 领域工作流数字化: 企业可将内部专家经验写成场景蓝图,通过WorkForge快速批量生成同类任务的不同实例,用于员工培训或能力考核。该场景下,蓝图机制确保任务的专业性,而事实锚点保证考核标准的客观可追溯。

  • 垂类Agent研发底座: 金融量化、代码审查、合规核查等需要交叉核对多源文件的专业场景,可将WorkForge作为环境基础设施,支撑上层Agent产品的能力迭代。研发团队可在统一环境体系下持续生成新任务,推动模型能力的持续进化。

8. 常见问题FAQ

Q:WorkForge当前是否开源?如何获取代码和数据?
A:根据论文信息,WorkForge目前是研究框架,论文中未提及开源代码或数据集的公开渠道。建议关注腾讯混元与复旦大学相关团队的官方发布动态,以获取后续开源计划的最新信息。

Q:WorkForge与LLM直接合成训练环境的方式有何本质区别?
A:LLM合成环境通常生成结构简单、证据集中的工作区,而WorkForge通过获取智能体从真实世界检索并保留原始目录结构,使工作区的文件数、类型数和体积分别达到合成环境的5.4倍、2.4倍和13倍。真实环境的证据分散在多级目录树中,迫使智能体先探索再判断,产生真实的操作摩擦。

Q:WorkForge的双重验证机制具体如何运作?
A:双重验证由程序化验证器和LLM语义评委双轨构成。程序化验证器按指示函数检查确定性要求,如数值是否正确、目标文件是否生成、工作区状态是否符合预期;语义验证器由LLM评委对开放式交付物按评分细则逐项打分并归一化。双轨分数分开保留,混合筛选效果(ALE 22.11)显著优于单用任一信号(15.62/14.89)。

Q:WorkForge的训练效果在模型规模上是否有差异?
A:实验显示WorkForge在不同规模模型上均有显著提升。A3B模型GDPval从基线提升28.1分至73.6,全面领先所有<100B专用智能体模型;27B模型在训练后甚至反超15倍参数量的397B模型。这表明高质量长程轨迹数据对小模型的增益尤为明显。

Q:WorkForge支持哪些专业领域的任务生成?
A:WorkForge已建成覆盖40个专业领域、60种文件类型的16.7K个可验证环境。具体领域包括办公、数据分析、金融、教育等,企业也可将内部专家经验写成场景蓝图,快速扩展到新的垂直领域。

Q:使用WorkForge需要什么样的硬件配置?
A:由于涉及大规模环境构建、模型推理与训练,推荐使用NVIDIA A100/H100级别GPU集群。具体配置取决于任务规模:环境构建阶段主要消耗CPU与网络资源,而轨迹采集与模型后训练阶段对GPU算力有较高要求。

Q:WorkForge的验证标准是否会出现幻觉或错误?
A:WorkForge通过事实锚点机制有效降低幻觉风险。所有任务指令、参考解法和评分标准均从工作区可观察事实推导,且参考解法中的关键事实会回工作区复核,确保验证标准与工作区实际内容一致,杜绝无依据的评测要求。

9. 项目地址

版权声明:本文部分内容由 AI 辅助生成并经人工校准,版权归本站所有,未经允许禁止任何形式的转载。