7

Реализация эволюции типовых методов: архитектура MetaDE

AI999第5课:方法演化:从优化解到优化算法本身
00:00

В традиционном дифференциальном развитии (DE, Differential Evolution) стратегия мутации и ключевые управляющие параметры задаются исследователем заранее и остаются неизменными на протяжении всего поиска. Ключевое изменение в MetaDE состоит в том, чтобы:рассматривать конфигурацию самого алгоритма как объект эволюции— внешняя эволюция ведёт поиск в пространстве алгоритмов, а внутренний уровень оценивает поведение в пространстве решений, благодаря чему вопрос «как эволюционировать» переходит от ручной предустановки к адаптивному поиску.

Двухуровневая структура эволюции MetaDEУлучшение эволюционного алгоритма эволюционным алгоритмомВнешний уровень эволюции · Пространство алгоритмовОбъект оптимизации: конфигурация алгоритма1Стратегия мутации: rand/1Биномиальное скрещиваниеF=0.5CR=0.92Стратегия мутации: best/1Экспоненциальное скрещиваниеF=0.8CR=0.43Стратегия мутации: current-to-best/1Биномиальное скрещиваниеF=0.3CR=0.7Операторы внешней эволюции: отбор · скрещивание · мутация · отсев → формирование конфигураций следующего поколенияРазличия между особями отражают склонности поведения одного семейства алгоритмов при разных характеристиках задачиПередача конфигурации-кандидата→ Исходная задачаВозврат реальных результатов→ Приспособленность внешнего уровняЗамкнутый цикл проверкиГенерация конфигурации → Проверка задачей → Отбор на основе обратной связиПриспособленность может быть получена только из реальных результатов выполненияВнутренний уровень задач · Пространство решенийОбъект оптимизации: решение задачиИсходная задача оптимизацииЗаданный экземпляр задачиМногократный независимый запуск одной конфигурацииПовтор 10 разСтатистика реальной приспособленностиСреднее значение используется как приспособленность особи внешнего уровняКанал проверки: каждая конфигурация-кандидат должна хотя бы раз реально выполниться на исходной задачеВнешний уровень оптимизирует конфигурацию алгоритма, внутренний — решение задачи; оба уровня связаны каналом проверки «реального запуска»

Двухуровневая структура: внешний уровень ищет алгоритм, внутренний решает задачу

  • Внутренний уровень: обычный процесс решения дифференциальной эволюцией исходной задачи оптимизации, отвечающий за получение реальных результатов.
  • Внешний уровень: одна конфигурация алгоритма DE выступает как особь; над пространством конфигураций выполняются отбор, скрещивание, мутация и отсев.

Обязанности двух уровней нельзя смешивать: объект оптимизации внешнего уровня —конфигурация алгоритма, внутреннего —решение задачи. Первый определяет «как искать», второй — «насколько хорошо найдено».

Что именно эволюционирует внешний уровень

Особь внешнего уровня кодирует не несколько чисел, а целый набор поведений алгоритма: стратегию мутации (rand/1, best/1, current-to-best/1 и т. д.), способ скрещивания (биномиальное, экспоненциальное), а также управляющие параметры — масштабирующий фактор F, вероятность скрещивания CR, размер популяции и др. Различия между особями соответствуют разным склонностям поведения одного семейства алгоритмов при различных характеристиках задачи.

Замкнутый цикл проверки: конфигурация-кандидат должна реально выполниться

Судьба каждой конфигурации-кандидата не может решаться только по метапоказателям или априорным суждениям — она должна быть подана на реальное выполнение в исходной задаче и пройти проверку фактическими результатами; затем внешний уровень на основе приспособленности, возвращённой внутренним уровнем, выполняет отбор, отсев и сохранение, определяя, какие конфигурации наследуются и распространяются. Так формируется итеративный замкнутый цикл «генерация конфигурации → проверка задачей → отбор по обратной связи», в котором приспособленность внешнего уровня может происходить только из реальных результатов выполнения внутреннего уровня.

Отличия от DE с фиксированными параметрами

В традиционном DE стратегия и параметры предустанавливаются исследователем и фиксируются на всём протяжении работы; MetaDE передаёт это право решения внешней эволюции, наделяя алгоритм способностью адаптироваться к характеристикам задачи — например, на ранних этапах поиска предпочитая более исследовательскую rand/1 и большее F, а на поздних переходя к более быстро сходящейся best/1 и меньшему F.

Цена и предпосылки

Каждая конфигурация-кандидат должна полностью выполнить внутреннюю задачу (обычно требуется несколько независимых запусков с усреднением для подавления случайности), а стоимость оценки кратно возрастает с размером популяции и числом поколений внешнего уровня. Поэтому MetaDE сильно зависит от инженерной базы — распараллеливания, тензоризации и планирования времени выполнения; именно в этом инженерная причина того, что она должна строиться поверх тензоризованного Runtime.

Минимальный работающий пример
Рассмотрим набор задач непрерывной оптимизации: некая особь внешней популяции закодирована как «rand/1 + биномиальное скрещивание + F=0.5, CR=0.9»; эта конфигурация подаётся на внутреннюю задачу для многократных независимых запусков, а средняя приспособленность берётся как приспособленность особи внешнего уровня; на её основе внешний уровень выполняет отбор, мутацию и сохранение лучших конфигураций, формируя итеративный замкнутый цикл «генерация конфигурации — проверка задачей — отбор по обратной связи». Этот шаг и есть минимальная работающая форма «улучшения эволюционного алгоритма эволюционным алгоритмом».

Позиционирование: MetaDE — это конкретная реализация «двухуровневой внутренне-внешней эволюции и адаптивного механизма», переводящая идею в реализуемую архитектуру, а также задающая методологическую парадигму для последующей эволюции структуры алгоритмов (AutoPSO, EvoGO).