Métodos essenciais de computação tensorial em lote

Na base de tensorização do EvoX,a computação tensorial em lotesitua-se na camada de expressão algorítmica: ela mapeia de forma unificada os candidatos, as avaliações e os estados do ciclo evolutivo comotensores com dimensão de lote, e então os entrega a operadores em lote compatíveis com GPU e a grafos computacionais compilados para execução. O objetivo é bem claro — transformar a “evolução serial indivíduo por indivíduo” em “evolução paralela de toda a população”, fazendo com que o poder computacional atue de fato sobre a própria busca, em vez de ser consumido em agendamento e inicialização.

I. Expressar o processo evolutivo como tensores

Convencionando que a dimensão de lote N representa o número de candidatos (indivíduos), os três elementos da evolução podem ser diretamente expressos como tensores:

Tensor de candidatos: a população X é organizada como [N × D], onde D é o número de variáveis de decisão de um único candidato.
Tensor de objetivos: os objetivos e restrições F são organizados como [N × M], onde M é o número de termos de objetivo/restrição; em cenários multiobjetivo, cada objetivo corresponde a uma coluna diferente de F.
Variáveis de estado: geração, melhor valor atual, tamanho do passo etc. são mantidos em buffers escalares ou de pequenos tensores, em vez de serem registrados indivíduo por indivíduo com objetos Python.

Assim, cruzamento, mutação, seleção e avaliação são todos processados em lote ao longo da dimensão N, e o ciclo evolutivo deixa de conter ramificações e fluxos de controle indivíduo por indivíduo.

II. Operadores em lote: de N chamadas por candidato a uma única operação em lote

Três expressões mínimas de referência delineiam a forma básica dos operadores em lote:

Mutação: X′ = X + σ·randn(X), todo o lote de candidatos recebe perturbações aleatórias individuais em uma única operação em lote, e σ controla a intensidade da perturbação.
Seleção: idx = topk(F, k), seleciona de uma só vez os índices dos k melhores candidatos entre as aptidões dos N candidatos.
Avaliação: Y = f_θ(X), substituindo N chamadas por candidato por uma única passagem direta em lote ou simulação em lote.

O ponto-chave não está em um operador específico, mas no fato de que todos os candidatos compartilham o mesmo grafo de operações tensoriais: uma única chamada em lote reduz o custo do interpretador e a sobrecarga de inicialização de kernels, fazendo com que o poder da GPU/multinúcleo atue de fato sobre a busca evolutiva. O tratamento de restrições e violações de limites também pode ser feito com tensores de máscara dentro da mesma operação em lote, sem necessidade de ramificações separadas para candidatos individuais.

III. Otimização de grafos computacionais e métricas de throughput

Escrever várias gerações de evolução como um grafo de fluxo de dados compilável permite extrair ainda mais desempenho:Fusão de operadoresreduz o número de inicializações de kernel,Paralelismo dentro do lotefaz todos os candidatos executarem simultaneamente,Execução assíncronafaz a computação e a transferência de dados se sobreporem,Reutilização de memóriae reduz a alocação de tensores intermediários. Consequentemente, as métricas de desempenho também devem migrar da “latência por passo” paracandidatos/s ou gerações/sde throughput — na execução em lote, uma única chamada processa todo o lote de candidatos, e somente o throughput global reflete de forma fiel a eficiência da busca.

Erro comum

Não envolva os operadores em lote em um loop indivíduo por indivíduo, pois isso reintroduz o custo do interpretador e a sobrecarga de inicialização de kernels, e a dimensão de lote perde seu sentido de paralelismo. O critério de avaliação é simples: em um passo evolutivo, deve haver apenas agendamento no nível de “lote”, sem nenhum no nível de “indivíduo”.

Mapa mental dos métodos essenciais de computação tensorial em lote

O mapa mental expressa o processo evolutivo como tensores com dimensão de lote: a população X é N×D, os objetivos e restrições F são N×M, e cruzamento, mutação, seleção e avaliação são todos processados em lote ao longo da dimensão N. Mutação, seleção topk e avaliação por passagem direta em lote exigem apenas uma chamada em lote, e as métricas de desempenho migram da latência por passo para o throughput em candidatos/s.

Questão 1

Se a população contém N candidatos, cada candidato tem D variáveis de decisão e há M termos de objetivo no total, quais são as formas do tensor populacional X e do tensor de objetivos F, respectivamente?

X é [N × D] e F é [N × M]

X é [D × N] e F é [M × N]

X é [N × M] e F é [D × M]

X é [N × N] e F é [M × M]

Questão 2

Ao reescrever um loop Python indivíduo por indivíduo como operações tensoriais em lote, de onde vem o ganho de desempenho mais direto?

Elimina o custo do interpretador e a sobrecarga de inicialização de kernels por candidato

Reduz a complexidade computacional da própria função objetivo

Aumenta a precisão numérica da avaliação de um único candidato

Reduz o número total de candidatos a serem avaliados

Questão 3

O operador de mutação é escrito como X′ = X + σ·randn(X); qual é o seu significado correto?

σ deve decrescer até zero conforme as gerações avançam, caso contrário a evolução não converge

Adiciona perturbações aleatórias individuais a todo o lote de candidatos em uma única operação em lote, e σ controla a intensidade da perturbação

Cada candidato deve usar exatamente os mesmos números aleatórios para garantir justiça

Essa expressão se aplica apenas a um único candidato e não pode ser processada em lote

Questão 4

Qual é a semântica do operador de seleção idx = topk(F, k) na evolução por tensorização?

Comprimir o número de candidatos para k e então reinicializar a população aleatoriamente

Selecionar independentemente as k melhores variáveis de decisão para cada candidato

Tomar os k melhores termos da dimensão de objetivos M como objetivos retidos

Selecionar em uma única operação os índices dos k melhores candidatos entre as aptidões dos N candidatos

Questão 5

A evolução por tensorização desloca a métrica de desempenho da “latência por passo” para “candidatos/s (ou gerações/s)”; qual é a explicação mais razoável?

Porque a métrica de latência não pode ser medida em GPU

Throughput e latência são numericamente idênticos, apenas com unidades diferentes

Na execução em lote, uma única chamada processa todo o lote de candidatos; somente o throughput global reflete a eficiência da busca

A latência por passo deixa de ter qualquer valor de referência a partir de então

Caso: migrar o ciclo evolutivo indivíduo por indivíduo para execução tensorial em lote

Leia o cenário e responda às perguntas a seguir.

Uma equipe usa o EvoX para otimizar um aerofólio supercrítico e precisa equilibrar simultaneamente o coeficiente de sustentação no buffet crítico e a razão sustentação-arrasto em cruzeiro. A implementação atual chama simulações de alta precisão indivíduo por indivíduo, resultando em baixa utilização da GPU e apenas algumas gerações avançadas ao longo de um dia inteiro. A equipe planeja migrar para a computação tensorial em lote: a população é denotada por X:[N × D], os objetivos por F:[N × M], a avaliação é fornecida em lote pelo modelo substituto fθ, e a evolução de múltiplas gerações deve ser compilada em um grafo de fluxo de dados executável.

1. Explique como organizar candidatos, objetivos e estados como tensores, e como fazer com que mutação, cruzamento, seleção e avaliação sejam processados em lote ao longo da dimensão de lote N.

Resposta:
Carregar os candidatos na dimensão de lote N: X:[N × D] é inicializado aleatoriamente, sendo D o número de parâmetros do aerofólio; F:[N × M] é preenchido de uma só vez pela avaliação em lote Y = fθ(X), sendo M o número de termos de objetivo como sustentação e arrasto; variáveis de estado como geração e melhor valor atual são mantidas em buffers escalares ou de pequenos tensores. A mutação é escrita como X′ = X + σ·randn(X), o cruzamento recombina por pareamento em lote com máscaras para tratar limites, e a seleção usa idx = topk(F, k) para obter de uma só vez os índices dos candidatos retidos. O ponto central é eliminar o fluxo de controle Python indivíduo por indivíduo, fazendo com que todos os candidatos compartilhem o mesmo grafo de operações tensoriais, com a dimensão N sempre como a dimensão de lote mais externa.

2. Quais otimizações podem ser feitas no grafo computacional para aumentar o throughput? E como ponderar quando a memória de vídeo é insuficiente?

Resposta:
Quatro tipos de otimização são possíveis: fusão de operadores para reduzir o número de inicializações de kernel; paralelismo dentro do lote para que todos os candidatos executem simultaneamente; execução assíncrona para sobrepor computação e transferência de dados; e reutilização de memória para reduzir a alocação de tensores intermediários. As métricas passam correspondentemente da latência por passo para candidatos/s ou gerações/s, pois uma única chamada em lote processa todo o lote de candidatos. Quando a memória de vídeo é insuficiente, pode-se dividir o lote inteiro em várias partes para execução sequencial (blocos/mini-lotes) ou reduzir a precisão numérica, e também encurtar o ciclo de vida dos tensores intermediários; porém, é preciso garantir que todos os candidatos da mesma geração usem o mesmo critério de avaliação, evitando que a divisão em lotes faça os candidatos perderem a comparação justa entre si.