SpecEvo:协调轻量级与先进 LLM,降低进化搜索成本

21 十一月 20260 视图

SpecEvo 框架重新分配了进化搜索任务:普通候选方案由低成本模型改进,只有在战略检查点才调用更强大的模型,并参考成功与陷入僵局的历史记录。在针对 176 项任务的实验中,这种模式在 API 成本降低 80% 的同时,达到或超越了高成本同类方案的表现。

SpecEvo:协调轻量级与先进 LLM,降低进化搜索成本

任务与用途

SpecEvo (Speculative Evolution) 是一个用于科学发现的多 LLM 框架。它协调轻量级模型和前沿模型,以降低搜索候选程序的成本。论文 arXiv:2610.28706 于 2026 年 10 月 20 日提交。作者为 Ha Minh Hieu、Tongyao Zhu、Do Xuan Long 和 Min-Yen Kan。

主要特点:

  • 类型:多 LLM 框架;
  • 用途:科学发现和算法搜索;
  • 原理:协调轻量级模型和前沿模型;
  • 论文:arXiv:2610.28706,于 2026 年 10 月 20 日提交;
  • 作者:Ha Minh Hieu、Tongyao Zhu、Do Xuan Long、Min-Yen Kan。

实用判断标准:对于 API 成本很重要、且需要通过不频繁的检查点搜索候选程序的任务,可以考虑使用该框架。

架构:轻量级模型与前沿模型的角色

SpecEvo 将工作分配给轻量级模型和前沿模型。轻量级模型并行承担 Speculators 和 Advisor 的职能。前沿模型则在不频繁的检查点上担任 Navigator。

| 组件 | 模型类型 | 功能 | 工作模式 | | Speculators | 轻量级 | 生成并改进候选程序 | 并行 | | Advisor | 轻量级 | 总结成功、失败和已饱和的方向;将其转化为持久建议 | 汇总积累的信息 | | Navigator | 前沿 | 研究不断演进的种群;通过综合、定点改进或更换搜索框架进行干预 | 不频繁,在检查点上 |

实用判断标准:将常规搜索和证据总结交给轻量级模型,并在需要战略性干预时启用前沿模型。

“先假设,后整合”的工作流程

在 SpecEvo 中,常规搜索和证据总结由低成本模型负责,而战略性干预则由前沿模型负责。它们带来的益处会延续到许多后续的低成本评估中。

步骤:

  1. 轻量级模型执行常规的候选程序搜索。
  2. Advisor 总结有关成功、失败和已饱和方向的积累信息。
  3. Navigator 在不频繁的检查点研究种群并选择干预方式。
  4. 干预方式取决于搜索是否停滞,可以是综合、定点改进或更换搜索框架。
  5. 低成本模型根据持久建议继续评估。

实用判断标准:如果搜索允许设置不频繁的检查点,并在检查点之间积累建议,则适合采用此方案。

结果及与基线方法的比较

作者在四个科学发现和算法发现领域的 176 项任务上测试了 SpecEvo。该框架的表现达到或超过基于前沿模型的基线方法,同时将 API 支出最多降低了 80%。在方程搜索中,该框架的评估效率最高比经济高效的基线方法高 1.5×。该框架的表现比最强基线方法 CO-Bench 高 3.8%。

| 指标 | 结果 | | 与基于前沿模型的基线方法比较 | 持平或更优 | | API 支出降低 | 最高 80% | | 方程搜索中的评估效率 | 最高比经济高效的基线方法高 1.5× | | 超越 CO-Bench 的幅度 | 3.8% |

实用选择标准:在自己的任务上,将搜索质量与 API 支出和基线方法进行比较。作者的结论是,考虑搜索轨迹来协调模型,是实现经济高效科学发现的一种有效方法。

常问问题