5

Ключевая идея и прорыв эволюции методов

AI999第5课:方法演化:从优化解到优化算法本身
00:00

В предыдущих уроках эволюционный процесс был организован в тензоры, допускающие целостные вычисления, что решило проблему эффективности大规模 оценки кандидатов. На этой странице мы делаем ещё один шаг вперёд: что, если объектом оптимизации являются не только кандидаты-решения, но исами методы порождения кандидатов— что тогда произойдёт? Ключевой прорыв эволюции методов (Meta-Evolution) состоит в том, что «метод порождения кандидатов-решений» сам становится объектом оптимизации: эволюционируют уже не только ответы, но и алгоритмы, стратегии или операторы, генерирующие и улучшающие эти ответы, — так алгоритм превращается из фиксированного инструмента в непрерывно эволюционирующий решатель.

Эволюция методов: двухуровневый контур обратной связиМетод порождения кандидатов сам становится объектом оптимизации, превращая алгоритм из фиксированного инструмента в непрерывно эволюционирующий решательСемейство задач / средаРаспределение многозадачностиИсточник сигнала оценкиОбобщение между задачамиОба уровня используют одну средуСредаЗадачаУровень методов · внешняя эволюцияПространство эволюционирующих методов: сам метод как переменная оптимизацииСтратегия мутацииВероятность скрещиванияКомбинация операторовГиперпараметрыОбновление методов: отбор · мутация · рекомбинация (по сигналу обратной связи)Уровень решений · внутренний поискПорождение кандидатов на конкретной задаче и их оценкаПорождение кандидатов-решенийОценка задачиОбратная связь по приспособленностиМетод / конфигурацияОбратная связь по оценке · распределение заслугКлючевое различиеМеняются только решения → классическая оптимизацияУровень методов тоже принимает обратную связь и обновляется → эволюция методов

1. От «эволюции ответов» к «эволюции методов»

Традиционный подход можно представить одной линейной цепочкой:задача → фиксированный алгоритм → кандидаты-решения. Исследователь сначала выбирает алгоритм или оператор, а затем алгоритм ищет в пространстве задач — сам алгоритм не меняется. Эволюция методов переписывает эту цепочку так:семейство задач/среда → пространство эволюционирующих методов → генератор кандидатов → оценка кандидатов-решений → обновление метода → новое порождение. Переменная оптимизации расширяется от решения x до метода, оператора, метаэвристического правила или процесса порождения кандидатов m. Под «методом» здесь понимается стратегия мутации в дифференциальной эволюции, веса инерции и топология в рое частиц, операторы локального поиска, а также более высокоуровневые правила выбора и планирования алгоритмов.

2. Пять ключевых сдвигов

  • Расширение объекта эволюции: от решений, параметров и структур — к методам, операторам, метаэвристическим правилам или процессам порождения кандидатов.
  • Переформулировка задачи: задача оптимизации меняется с «найти оптимальное решение при заданном алгоритме» на «эволюционно вырастить решатель, который лучше находит решения, в задачах или среде».
  • Обратная связь: метод порождает кандидатов и получает оценку задачи; результат оценки, в свою очередь,驱动 мутацию, отбор и рекомбинацию методов, образуя непрерывную обратную связь между уровнем методов и уровнем решений.
  • Смещение критериев оценки: качество метода оценивается не по единичному оптимуму, а по обобщению между задачами и средами, робастности, разнообразию и вычислительным затратам.
  • Смена роли: исследователь проектирует уже не фиксированный процесс, а пространство эволюционирующих методов, сигналы обратной связи и механизмы отбора.

3. Почему контур обратной связи так важен

Уровень методов и уровень решений — не два независимых цикла оптимизации. Уровень методов порождает генератор кандидатов, а уровень решений использует его для порождения кандидатов на конкретных задачах и получает оценки; после агрегации или распределения заслуг эти оценки возвращаются на уровень методов и驱动 мутацию, отбор и рекомбинацию самих методов. Если сигнал обратной связи слишком разрежен или вознаграждает лишь краткосрочный оптимум, уровень методов легко переобучается на одной задаче; если же сигнал включает обобщение между задачами и разнообразие, уровень методов способен выучить метастратегию «лучше находить решения». Это можно понимать как ещё один слой эволюционного поиска в пространстве методов, но его оценка невозможна без реальных результатов уровня решений.

4. Концептуальная основа: MetaDE и AutoPSO

Эволюция методов — не просто лозунг. MetaDE делает стратегии, параметры и даже комбинации операторов дифференциальной эволюции эволюционирующими объектами; AutoPSO включает структуру, параметры или топологию роя частиц в автоматический поиск. У них общая отправная точка: «метод порождения кандидатов» становится объектом оптимизации, обеспечивая самоэволюцию алгоритма. На этой странице закладывается единая концептуальная основа; конкретные архитектуры и эволюция структуры алгоритмов будут раскрыты далее.

Ключевое различие
Если метод остаётся неизменным, система по-прежнему ищет решения при заданном алгоритме; эволюция методов начинается лишь тогда, когда уровень методов тоже принимает обратную связь и обновляется.