5

算法自身的进化:从求解答案到改进方法

AI999 第6课:系统级持续演化:Genesis 与软件世界的沉淀
00:00

传统的演化算法在固定的生成机制下工作:选择、交叉、变异等「如何产生答案」的规则由人预先写好,搜索只在答案空间中移动,被优化的始终是候选解。当算力规模打开之后,这种预设反而成了天花板——如果产生候选的方法不变,系统只能重复既定套路。

方法演化(Meta-Evolution)把问题向上推进一层:算法不只输出更好的答案,还通过外层搜索持续改进产生答案的策略、参数与组件,完成从「求解答案」到「改进方法」的进化。EvoX 正是沿这条路线推进的工作,它把候选生成的方法本身(如差分进化的变异策略与参数设置)纳入演化对象。

算法自身的进化:从求解答案到改进方法 两层逻辑:内层求答案,外层改方法 ↻ 外层:演化「产生候选解的方法」 被优化对象:候选生成机制 策略 / 参数 / 算子组件 被搜索的设计变量 外层演化搜索 比较 · 选择 · 更新 改进后的生成方法 供下一轮使用 ▶ 内层:用当前方法求解具体问题 被优化对象:候选解 当前方法 按现有规则生成候选 候选解 面向具体任务实例 解质量评价 质量 · 稳定性 · 成本 更新生成方法 外层结果回灌内层 解质量 · 偏好 · 成本反馈 跨任务聚合后比较方法 答案由方法生成;方法本身同样成为被搜索、被评价、被更新的对象

两层逻辑:内层求答案,外层改方法

  • 内层:用当前方法求解具体问题,产生候选解。
  • 外层:依据解质量、偏好信号、稳定性或成本等反馈,改进下一轮使用的方法。
  • 被上移到搜索空间的对象不是某个解,而是候选生成机制本身;正因如此,它才成为可评价、可选择、可更新的对象。

偏好优化该放在哪一层

偏好优化可以参与上层反馈,但必须把两类目标分开:评价当前答案与改进生成答案的方法。把「这个解更讨喜」直接读成「这个策略更优」,就是用答案偏好冒充方法优劣,外层搜索会被单次结果的噪声牵着走。

典型形态
MetaDE 让外层演化差分进化的变异策略与参数,内层照常求解任务;AutoPSO 与 EvoGO 进一步组合粒子群组件、利用历史反馈学习候选生成方式,实现了从「改参数」到「改算法结构」的跨越。

换来什么,付出什么

这一转变把算法设计从一次性人工调参推向可持续自适应,但代价同样清楚:搜索空间膨胀(方法空间远大于解空间)、评价成本上升(每套候选方法都要跑内层任务,通常依赖 GPU 并行批量评估来摊薄)、验证复杂度增加(外层改进是否真的泛化,需要独立的验证设计)。