6

Двухуровневая эволюция: внутренний и внешний контуры и механизм адаптации

AI999第5课:方法演化:从优化解到优化算法本身
00:00

Двухуровневая эволюцияРазделяет «решение конкретных задач» и «улучшение методов решения» на два взаимодействующих эволюционных контура:внутреннийориентирован на решение задач и порождает показатели работы,внешнийна основе этих показателей эволюционно настраивает конфигурацию и стратегии внутреннего алгоритма, формируя адаптивный механизм улучшения алгоритмов. Это не простое последовательное соединение двух алгоритмов, а добавление над уровнем решения задач эволюционирующего метауровневого управления, что переводит систему от «ручной настройки алгоритма» к «автоматической адаптации алгоритма к задаче».

Двухуровневая эволюция: замкнутый контур обратной связи между решением задач и эволюцией методовВнутренний уровень: уровень решения задачПараллельно выполняет множество конкретных задач, выдавая решения-кандидаты и показатели работыЗадача T1Задача T2Задача T3Задача TnВыход: решения-кандидаты · значение целевой функции f · показатели работыЗатраты ресурсов · число шагов до сходимости · доля успешных запусковСлужит основой для оценки приспособленности внешнего уровняТензорное пакетное выполнениеМутация, оценка и обновление состояния включаются в вычислительный графЗадача внутреннего уровня: решить задачуВыдаёт решения и показатели работы для оценки внешним уровнемВнешний уровень: уровень эволюции методовНе решает исходную задачу напрямую, а эволюционно настраивает конфигурацию и стратегии внутреннего уровняМеханизм адаптации: непрерывно корректирует стратегии внутреннего уровня при изменении задач и условийЭволюция улучшает эволюциюОценкаОтборМутацияОбновлениеЗадача внешнего уровня: улучшить метод решенияАдаптация: непрерывная корректировка стратегий внутреннего уровня при изменении задач и условийПоказатели работы внутреннего уровняАгрегируются в сигнал приспособленностиОбратное обновлениеКонфигурация и стратегии внутреннего уровняПараллелизм на GPU: пакетный запуск задач внутреннего уровня даёт внешнему уровню более полную статистическую обратную связь и снижает затраты ожидания при поискеЦель обучения: понять взаимодействие между решением задач на внутреннем уровне и оптимизацией стратегий на внешнем уровне

Разделение обязанностей внутреннего и внешнего уровней

  • Обязанности внутреннего уровня: решает практические задачи, формируя решения-кандидаты, значения целевой функции и данные о работе. Он отвечает за то, чтобы «задача была решена».
  • Обязанности внешнего уровня: не решает исходную задачу напрямую, а эволюционно развивает конфигурацию, стратегии и параметры внутреннего алгоритма. Он отвечает за то, чтобы «метод решения стал лучше».
  • Замкнутый контур обратной связи: результаты оценки задач внутреннего уровня агрегируются в сигнал приспособленности внешнего уровня, который используется для отбора, мутации и обновления более эффективных конфигураций внутреннего уровня.
  • Механизм адаптации: внешний уровень непрерывно корректирует стратегии внутреннего уровня в ответ на изменения задач и условий.
  • Поддержка параллелизма: GPU позволяет параллельно выполнять множество задач внутреннего уровня, обеспечивая более полную статистическую обратную связь для эволюции внешнего уровня и снижая затраты ожидания при поиске.

MetaDE: эволюция улучшает эволюцию

На примере MetaDE: внутренний DE решает конкретные задачи оптимизации, а внешний эволюционный алгоритм на основе показателей внутреннего уровня отбирает и корректирует конфигурацию и стратегии DE; результаты множества задач внутреннего уровня, в свою очередь, направляют выбор конфигураций на внешнем уровне, образуя двухуровневый замкнутый контур «эволюция улучшает эволюцию».

Ключевое различие
Внутренний уровень выдаёт «решения», а внешний — «лучший метод порождения решений». Приспособленность внешнего уровня — это не само оптимальное значение исходной задачи, а оценка работы конфигурации внутреннего уровня на пакете задач.

Цели обучения

Освоить взаимодействие между решением задач на внутреннем уровне и оптимизацией стратегий на внешнем; понять, что эволюция методов представляет собой эволюционирующее метауровневое управление над внутренним уровнем; уметь объяснить, как параллелизм на GPU обеспечивает внешнему уровню более надёжную статистическую обратную связь.