5

Organizzazione tensoriale di popolazione, valutazione e stato

AI999第4课：现代计算底座与张量化并行演化
00:00

Nell'implementazione ingegneristica degli algoritmi evolutivi,l'organizzazione tensorialemappa in modo unificato «cosa è la popolazione, come viene valutata, a che punto è l'esecuzione» da oggetti e liste sparsi a tensori regolari. In sostanza, stabilisce un contratto dati unificato per popolazione, valutazione e stato, affinché il calcolo batch, la permanenza sul dispositivo e la successiva pianificazione parallela condividano la stessa semantica di memoria.

Organizzazione tensoriale di popolazione, valutazione e statoMappare in modo unificato soluzioni candidate, valutazioni di fitness e stato dell'algoritmo in tensori calcolabili in batchOrganizzazione seriale tradizionaleOggetti e liste archiviati in modo sparsoLista dei candidatiLista / insieme di oggettiValutazione uno alla voltaChiamate ripetute alla funzione di valutazioneStato sparsoScalari / variabili globaliCiclo su singoli individuiFrequenti scambi tra host e dispositivoTensorializzazionel'organizzazione tensorialePopolazione · valutazione · stato unificati in tensori regolari, formando un contratto dati unicoNDTensore della popolazione[N, D]N è la dimensione batch, D è la dimensione decisionaleMutazione e crossover in batchIn un'unica operazioneNMKMatrice di valutazione[N, M] o [N, M+K]M obiettivi, K vincoliVettorizzazione della funzione di valutazioneRestituisce i risultati dell'intero batchContenitore tensoriale di statoScalari o tensori di piccole dimensioniGenerazione, soluzione ottima, stato del generatore casualePermanenza unificata sul dispositivoCheckpoint e riproducibilitàEsempio: N = 1024, D = 50, M = 2 · popolazione [1024, 50], valutazione [1024, 2]Batch come dimensione esterna: gli operatori si vettorizzano lungo N sull'intero batchIndividui di lunghezza variabile: padding + maschera oppure bucketingStato unificato: riproducibile, tracciabile, aggiornabile in batch

Tensorializzazione della popolazione: codifica come [N, D]

Organizzare N soluzioni candidate lungo la dimensione batch in un tensore di codifica di forma [N, D]. Variabili continue, discrete o codifiche a più segmenti possono essere espresse tramite tensori di campo o blocchi raggruppati, mantenendo tipo di dato e posizione sul dispositivo uniformi.

  • Batch come dimensione esterna: di norma N viene posto nello strato più esterno, così lo stesso operatore viene eseguito in modo vettorizzato sull'intero batch.
  • Blocchi di campo: se un individuo è composto da più segmenti di parametri, può essere suddiviso in [N, D1] + [N, D2] + … mantenendo un'archiviazione contigua.
  • Gestione della lunghezza variabile: gli individui di lunghezza variabile vengono gestiti con padding e maschera oppure con bucketing, per evitare che strutture eterogenee compromettano il calcolo in batch.

Matricializzazione dei risultati di valutazione: [N, M] e [N, K]

Una singola valutazione in batch produce una matrice di fitness [N, M]; obiettivi multipli, vincoli multipli e metriche aggiuntive possono essere affiancati in [N, M+K] o archiviati in tabelle separate, evitando di chiamare la funzione di valutazione in un ciclo su singoli individui.

Gestione unificata dello stato tensoriale

Generazione, stato del generatore casuale, iperparametri della strategia, soluzione ottima, cache storica, stato di ranking o campionamento confluiscono anch'essi in tensori o in un contenitore di stato strutturato, garantendo riproducibilità, tracciabilità e aggiornamenti in batch.

Esempio: N=1024, D=50, M=2
La popolazione è rappresentata da un tensore [1024, 50], i valori di valutazione da un tensore [1024, 2], i vincoli da [1024, K]. La generazione (generation), la soluzione ottima (best_x) e lo stato del generatore casuale (rng_state) risiedono in modo unificato sul dispositivo come tensori di stato. L'aggiornamento di ogni generazione può essere eseguito interamente sulla stessa dimensione batch, anziché con un ciclo Python su singoli individui.

Vantaggi e limiti dell'organizzazione

I tensori unificati riducono gli scambi tra host e dispositivo, abbassano il costo dei cicli e forniscono una base dati per il parallelismo dei successivi operatori; occorre però gestire la validità delle maschere, lo spreco del padding, la crescita dimensionale con obiettivi multipli e il costo di sincronizzazione dello stato.