De lista de candidatos a grafo computacional tensorizado

Na computação evolutiva,a diversidadeé o pré-requisito para a eficácia do algoritmo: somente mantendo um número suficiente de soluções candidatas é que a pressão seletiva não comprime prematuramente a população em um ótimo local. Mas a diversidade também implica um volume computacional enorme — uma única execução frequentemente exige avaliar dezenas de milhares a milhões de soluções candidatas. Quando os candidatos são escritos como um array comum de objetos e enviados um a um para avaliação por meio de laços item a item, a maior parte do tempo de computação é consumida pelo agendamento item a item e pelo fluxo de controle da linguagem hospedeira, em vez do verdadeiro cálculo numérico. É justamente essaineficiência dos laços seriais tradicionais de CPU ao lidar com dezenas de milhares de avaliações de candidatosa causa fundamental.

O salto na forma de expressão: da lista de candidatos ao grafo computacional tensorizado

A mudança trazida pelo EvoX não é a aceleração local de um operador específico, mas simuma mudança na forma de expressar o processo evolutivo: passar do processamento em lista, candidato por candidato, para a computação em lote com tensores como cidadãos de primeira classe. O conjunto de candidatos não fica mais disperso em arrays de objetos; em vez disso, é organizado de forma unificada como tensores, junto com os resultados de avaliação e o estado do algoritmo, permitindo que participem das operações de forma integral.

Tensor de candidatos: escrever toda a geração de candidatos como um tensor de forma [tamanho da população, dimensão da solução]. Nesse caso, "um candidato" é apenas uma linha do tensor, e não mais um objeto independente da linguagem hospedeira.
Operadores em lote: operações como a mutação atuam diretamente sobre toda a população; uma única chamada conclui a atualização de todos os candidatos, em vez de chamar em laço N vezes.
Avaliação em lote: obter de uma só vez os resultados de avaliação de toda a geração na forma evaluate(tensor de candidatos); a unidade de contagem das avaliações passa de "indivíduo" para "lote".
Grafo computacional: a seleção e a atualização de estado deixam de ser apenas lógica de controle serial e passam a ser nós do grafo, ganhando assim oportunidades de otimização de compilação, como fusão de operadores e agendamento paralelo.

Comparação entre as duas formas de escrita

A escrita em lista é aproximadamente: extrair cada candidato, avaliar cada um, comparar cada um e atualizar o estado — cada etapa depende dos laços da linguagem hospedeira, sendo difícil otimizar de forma integral. Já a escrita tensorizada é: tensor de candidatos → mutação → avaliação → seleção → atualização de estado; toda a cadeia é composta por operações de tensores e expressa como um grafo computacional, e o compilador pode realizar fusão e agendamento de dispositivos sobre o grafo inteiro. Atenção: a lógica do algoritmo (distribuição de mutação, pressão seletiva) não foi reescrita; o que foi reescrito é aforma de expressão.

Termo central

Computação tensorizada — tomar o tensor como unidade mínima de processamento, fazer com que mutação, avaliação, seleção e atualização de estado atuem em lote sobre toda a população, e permitir que essas operações em lote entrem no grafo computacional para receber otimização de compilação. O salto-chave desta página pode ser resumido em uma frase: da "lista de candidatos" ao "grafo computacional tensorizado".

Transformação estrutural da lista de candidatos para tensores

O processamento em lista trata cada candidato como um objeto independente e o avalia um a um em laço, enquanto a tensorização escreve toda a geração de candidatos como um tensor de forma [tamanho da população, dimensão da solução], em que um candidato é apenas uma de suas linhas; mutação, avaliação e seleção passam a ser chamadas em lote e são organizadas em um grafo computacional passível de otimização de compilação, sem que a lógica do algoritmo em si seja alterada.

Pergunta 1

Em tarefas evolutivas com dezenas de milhares de candidatos, qual é o principal motivo da ineficiência dos laços seriais tradicionais de CPU?

A função de aptidão não pode ser escrita como um programa

Grande parte do tempo é consumida pelo agendamento item a item e pelo fluxo de controle da linguagem hospedeira, em vez do verdadeiro cálculo numérico

O excesso de candidatos reduz a diversidade da população

O hardware da CPU não suporta operações de ponto flutuante

Pergunta 2

Na representação tensorizada, a que corresponde "uma solução candidata" da população?

Um objeto independente da linguagem hospedeira, que exige processamento em laço separado

Uma tarefa de compilação separada

Um nó independente no grafo computacional

Um slice do tensor de candidatos (por exemplo, uma linha)

Pergunta 3

Qual é o principal benefício de colocar a seleção e a atualização de estado no grafo computacional?

Garantir a convergência para o ótimo global

Obter oportunidades de otimização de compilação, como fusão de operadores e agendamento paralelo

Não precisar mais de função de aptidão nem de processo de avaliação

Aumentar automaticamente o tamanho da população para melhorar a diversidade

Pergunta 4

Se o tensor de candidatos tem forma [tamanho da população, dimensão da solução], qual é a forma mais provável da saída após uma única chamada de avaliação sobre toda a geração de candidatos?

[tamanho da população] ou [tamanho da população, nº de objetivos]

Um escalar independente do tamanho da população

Apenas uma linha de [dimensão da solução]

[tamanho da população, dimensão da solução], idêntico ao tensor de candidatos

Pergunta 5

Qual das frases abaixo descreve com mais precisão a mudança do EvoX no nível da expressão?

Substituir completamente a avaliação real por modelos substitutos, evitando assim o cálculo

Substituir o próprio algoritmo evolutivo por um modelo de aprendizado profundo

No fluxo em lista original, substituir alguns operadores por implementações de hardware mais rápidas

Mudar o processo evolutivo do processamento em lista, candidato por candidato, para um grafo de computação em lote com tensores como cidadãos de primeira classe

Estudo de caso: reformulação tensorizada de uma busca de aerofólio com 50.000 candidatos

Leia o cenário e responda às duas perguntas, apresentando os fundamentos das suas conclusões e os trade-offs de projeto.

Uma equipe usa um algoritmo evolutivo para fazer busca de parâmetros de um aerofólio supercrítico, com tamanho de população definido em 50.000 e dimensão da solução igual a 48; uma única avaliação em tempo real exige chamar uma simulação de alta precisão de custo elevado. Na implementação inicial, cada candidato era escrito como um objeto independente, e um laço avaliava, comparava e atualizava a melhor solução candidato por candidato; uma geração levava horas e ficava quase linearmente mais lenta conforme a população crescia. Após a reformulação, a equipe organizou os candidatos em um tensor de forma [50000, 48], obteve os resultados de avaliação de toda a geração com uma única chamada e escreveu a seleção e a atualização de estado como nós de um grafo computacional.

1. Analise de onde vem o gargalo de eficiência da implementação original e explique quais custos a reformulação tensorizada elimina sem alterar a lógica do algoritmo.

Resposta:
O gargalo está principalmente na camada de organização de dados e agendamento, e não no cálculo numérico em si: (a) o acesso a objetos candidato a candidato e as chamadas de função item a item geram muitos custos fixos; (b) os laços da linguagem hospedeira fragmentam operações numéricas que poderiam ser paralelas em agendamentos seriais sucessivos; (c) as comparações uma a uma e a atualização manual do estado fazem com que o fluxo de controle assuma trabalho que poderia ser feito por operadores em lote; (d) processar apenas um candidato por vez não preenche a largura de paralelismo do hardware. A tensorização organiza de forma unificada o conjunto de candidatos, os resultados de avaliação e o estado do algoritmo como tensores, e a mutação e a avaliação atuam de uma só vez sobre toda a população, eliminando assim os custos de agendamento item a item e entregando as operações numéricas paralelizáveis a kernels em lote. Vale destacar: a lógica do algoritmo — pressão seletiva, distribuição de mutação etc. — não mudou; o que mudou foi apenas a forma de expressão — e é exatamente esse o significado de "da lista de candidatos ao grafo computacional tensorizado". Pontos de avaliação: apontar que o gargalo está no agendamento e no fluxo de controle, e não no poder de computação; indicar que o lote atua sobre todo o grupo; deixar claro que a lógica do algoritmo não foi reescrita.

2. Se quisermos que a seleção e a atualização de estado também recebam otimização de compilação, quais ajustes de projeto devem ser feitos? Apresente a forma do tensor de candidatos e a forma de organização dos operadores.

Resposta:
A linha de raciocínio do ajuste é reescrever a lógica de controle imperativa passo a passo como nós de operações de tensores em um grafo computacional, de modo que toda a cadeia "mutação → avaliação → seleção → atualização de estado" possa ser descrita e compilada como um todo. Forma específica de organização: o tensor de candidatos tem forma [tamanho da população, dimensão da solução], neste caso [50000, 48]; a saída da avaliação tem forma [tamanho da população] (objetivo único) ou [tamanho da população, nº de objetivos] (múltiplos objetivos); o operador de mutação atua sobre o tensor de candidatos como um todo, atualizando todos os candidatos em uma única chamada; a seleção usa os resultados de avaliação para realizar indexação de tensores ou operações de máscara sobre a população, em vez de comparar um a um; a atualização de estado (melhor solução, estatísticas de convergência etc.) é escrita como nós de redução ao longo da dimensão da população (por exemplo, tomar o mínimo, calcular a média), em vez de escrita manual em laço. Assim, o compilador pode realizar fusão de operadores e agendamento de dispositivos sobre o grafo inteiro, reduzindo tensores intermediários e custos de sincronização. Pontos de avaliação: formas corretas; as quatro etapas expressas como operações de tensores; indicar claramente que a seleção e a atualização de estado passam de lógica de controle a nós do grafo.