Implementação da evolução de métodos típicos: arquitetura MetaDE

A evolução diferencial (DE) tradicional deixa a estratégia de mutação e os principais parâmetros de controle a cargo do pesquisador, que os define previamente e os mantém inalterados durante todo o processo de busca. A mudança central do MetaDE é:tratar a própria configuração do algoritmo como objeto de evolução——a evolução externa busca no espaço de algoritmos, enquanto a camada interna avalia o desempenho no espaço de soluções, convertendo o "como evoluir" de uma definição manual em uma busca adaptativa.

Estrutura de dois níveis: a camada externa busca algoritmos, a interna resolve problemas

Camada interna: o processo convencional de resolução da evolução diferencial na tarefa de otimização original, responsável por fornecer o desempenho real da tarefa.
Camada externa: cada configuração do algoritmo DE é um indivíduo, e sobre o espaço de configurações aplicam-se seleção, cruzamento, mutação e eliminação.

As responsabilidades das duas camadas não podem ser confundidas: o objeto de otimização da camada externa éa configuração do algoritmo, e o objeto de otimização da camada interna éa solução do problema. O primeiro decide "como buscar"; o segundo, "quão bem se busca".

O que a evolução externa evolui

Um indivíduo da camada externa não codifica apenas alguns números, mas todo um conjunto de comportamentos do algoritmo: estratégia de mutação (rand/1, best/1, current-to-best/1, etc.), modo de cruzamento (binomial, exponencial) e parâmetros de controle como fator de escala F, probabilidade de cruzamento CR e tamanho da população. As diferenças entre indivíduos correspondem justamente às diferentes tendências de comportamento da mesma família de algoritmos sob diferentes características do problema.

Ciclo fechado de verificação: a configuração candidata precisa ser executada de fato uma vez

Nenhuma configuração candidata pode ser aceita ou descartada apenas com base em meta-métricas ou julgamentos a priori; ela precisa ser enviada à tarefa original para execução real e submetida à verificação do desempenho verdadeiro. Em seguida, a camada externa realiza seleção, eliminação e retenção com base na aptidão fornecida pela camada interna, decidindo quais configurações são herdadas e propagadas. Forma-se assim um ciclo fechado iterativo de "geração de configuração → verificação da tarefa → decisão por feedback", no qual a aptidão da camada externa só pode vir dos resultados reais de execução da camada interna.

Diferenças em relação ao DE fixo

No DE tradicional, a estratégia e os parâmetros são previamente definidos pelo pesquisador e mantidos fixos durante todo o processo; o MetaDE transfere essa decisão para a evolução externa, conferindo ao algoritmo capacidade de adaptação às características do problema — por exemplo, preferir o rand/1, mais exploratório, com F maior no início da busca, e migrar para o best/1, de convergência mais rápida, com F menor nas fases finais.

Custo e pré-requisitos

Cada configuração candidata precisa executar integralmente uma vez a tarefa da camada interna (normalmente também são necessárias várias execuções independentes para tirar a média e suprimir a aleatoriedade), e o custo de avaliação cresce exponencialmente com o tamanho da população da camada externa e o número de gerações. Por isso, o MetaDE depende fortemente de bases de engenharia como paralelização, tensorização e agendamento em tempo de execução — exatamente a razão de engenharia pela qual ele precisa ser construído sobre um Runtime tensorizado.

Exemplo executável mínimo

Tomemos como exemplo um conjunto de tarefas de otimização contínua: um indivíduo da população da camada externa é codificado como "rand/1 + cruzamento binomial + F=0.5, CR=0.9"; essa configuração é enviada à tarefa da camada interna e executada várias vezes de forma independente, tomando-se a aptidão média como a aptidão do indivíduo da camada externa; com base nisso, a camada externa seleciona, muta e retém configurações melhores, formando o ciclo fechado iterativo de "geração de configuração — verificação da tarefa — decisão por feedback". Esse passo é a forma executável mínima de "melhorar algoritmos evolutivos com algoritmos evolutivos".

Posicionamento: o MetaDE é a concretização da "evolução de dois níveis, interna e externa, com mecanismo adaptativo", levando-a da ideia a uma arquitetura implementável, e também fornece um paradigma metodológico para a evolução posterior da estrutura de algoritmos (AutoPSO, EvoGO).

Estrutura de dois níveis do MetaDE e fluxo de verificação da tarefa

A ilustração mostra o fluxo de dois níveis do MetaDE: a camada externa usa um conjunto completo de configurações DE como indivíduo para realizar seleção, cruzamento, mutação e eliminação; a configuração candidata precisa ser enviada à tarefa original da camada interna para execução real, geralmente com múltiplas execuções independentes para obter a aptidão média, que então retroalimenta a decisão de retenção e propagação. Dessa forma, a estratégia de mutação, o modo de cruzamento e definições como F e CR passam de uma definição manual para uma busca adaptativa.

Pergunta 1

Qual é o objeto diretamente manipulado pela evolução da camada externa no MetaDE?

A própria função de aptidão da tarefa da camada interna

Um conjunto de soluções candidatas da tarefa de otimização original

O limite superior do tamanho da população da camada externa

A configuração do algoritmo de evolução diferencial, incluindo estratégia de mutação, modo de cruzamento e parâmetros de controle

Pergunta 2

Por que cada configuração candidata precisa entrar em execução real na tarefa original, em vez de ser pontuada apenas por meta-métricas?

Porque a tarefa da camada interna precisa que a camada externa forneça parâmetros para iniciar

Porque executar de fato uma vez pode reduzir o tamanho da população da camada externa

Porque o custo computacional das meta-métricas é maior do que o da execução real

Porque apenas resultados reais de execução podem servir como base confiável de aptidão para a seleção da camada externa; julgamentos a priori facilmente divergem do desempenho real

Pergunta 3

Comparado à evolução diferencial tradicional com parâmetros fixos, qual é a mudança mais crucial do MetaDE?

A estratégia e os parâmetros de controle deixam de ser fixos durante todo o processo e passam a ser determinados dinamicamente pela evolução da camada externa

Substitui a evolução diferencial por um algoritmo de otimização totalmente diferente

Elimina a etapa de avaliação de aptidão

Aplica-se apenas a problemas de otimização combinatória discreta

Pergunta 4

De onde vem o principal custo computacional do MetaDE?

O comprimento da cadeia de codificação da configuração

O custo de ordenação do operador de seleção da camada externa

Cada configuração candidata precisa executar integralmente uma vez a tarefa da camada interna, e o custo de avaliação cresce exponencialmente com o tamanho da camada externa e o número de gerações

O custo de desenho do canal de verificação no diagrama da arquitetura

Pergunta 5

Sobre a relação entre o MetaDE e os trabalhos subsequentes (AutoPSO, EvoGO), qual das afirmações a seguir é correta?

O MetaDE oferece um paradigma aplicável de "melhorar algoritmos evolutivos com algoritmos evolutivos", servindo de referência metodológica para a evolução posterior da estrutura de algoritmos

O MetaDE não tem relação com a evolução da estrutura de algoritmos

Tanto o AutoPSO quanto o EvoGO são métodos com parâmetros fixos durante todo o processo

O MetaDE substitui o processo de resolução da camada interna pela evolução da camada externa

Caso: configuração do MetaDE sob orçamento de avaliação limitado

Leia o cenário e responda às duas perguntas a seguir.

Uma equipe deseja realizar configuração automática de algoritmos em um conjunto de funções de referência para otimização contínua. Eles usam uma configuração DE (estratégia de mutação + modo de cruzamento + fator de escala F e probabilidade de cruzamento CR + tamanho da população) como indivíduo da camada externa, com população externa inicial de 20 e previsão de 15 gerações de evolução; cada configuração candidata é executada 10 vezes de forma independente na tarefa correspondente da camada interna, tomando-se a aptidão média como a aptidão desse indivíduo. O cluster consegue executar em paralelo, a cada rodada, um número limitado de tarefas da camada interna, o que restringe o orçamento total de avaliações da equipe.

1. Por que não se pode pontuar as configurações candidatas apenas com meta-métricas ou experiência histórica, sendo necessário colocar cada configuração candidata em execução na tarefa original?

Resposta:
Porque não há garantia confiável de consistência entre meta-métricas ou experiência a priori e o desempenho real da tarefa; em última análise, a qualidade de uma configuração só pode ser definida pelos resultados reais de execução. Somente usando a aptidão fornecida pelo feedback da tarefa da camada interna como base de seleção é que a seleção, a eliminação e a retenção da camada externa se fundamentam em evidências confiáveis, e isso é exatamente a condição necessária do ciclo fechado de verificação do MetaDE. Se fosse adotada uma pontuação por proxy, a camada externa provavelmente reteria configurações "aparentemente razoáveis, mas de desempenho real ruim", a direção evolutiva seria sistematicamente desviada e, ao final, obter-se-ia apenas um conjunto de configurações bonito nas meta-métricas, mas ineficaz na tarefa real.

2. Dado o poder limitado de paralelismo do cluster, como você faria a escolha entre o tamanho da população e o número de gerações da camada externa e o número de repetições de execução da camada interna? Apresente uma proposta e justificativa.

Resposta:
O primeiro passo é estimar o orçamento total de avaliações: tamanho da população da camada externa × número de gerações × número de repetições da camada interna. O segundo passo é distribuir com base nisso: comprimir adequadamente o tamanho da população ou o número de gerações da camada externa, garantindo prioritariamente que o número de repetições da camada interna não fique abaixo de um nível capaz de estimar a média de forma estável (por exemplo, de 5 a 10 vezes). A razão é que, quando as repetições da camada interna são poucas demais, a aptidão do indivíduo é dominada pela aleatoriedade, a seleção da camada externa na prática persegue ruído, o sinal evolutivo é contaminado e, por mais gerações que se sucedam, a busca dificilmente convergirá. Ao mesmo tempo, deve-se aumentar o grau de paralelismo, distribuindo em paralelo as tarefas da camada interna dos indivíduos da mesma geração, de modo que o tempo de relógio de parede diminua com o paralelismo em vez de crescer linearmente com o orçamento; quando necessário, usar parada antecipada ou modelos proxy para pré-filtragem a fim de economizar orçamento, mas toda candidata que entre na comparação final e na decisão de permanência ou descarte ainda deve passar pela verificação real na tarefa original.