8

Evoluzione della struttura algoritmica: AutoPSO ed EvoGO

AI999第5课:方法演化:从优化解到优化算法本身
00:00

In metodi come MetaDE, l'evoluzione avviene a livello deiparametri: l'algoritmo interno risolve il compito reale, mentre quello esterno ne regola configurazione e strategia. AutoPSO ed EvoGO invece spostano l'oggetto dell'evoluzione un livello più in alto, evolvendo direttamentela struttura stessa dell'algoritmo: come si combinano i componenti, come si generano i candidati e come si organizzano le regole di aggiornamento.

Evoluzione della struttura algoritmica: AutoPSO ed EvoGOIl livello esterno evolve la struttura dell'algoritmo (cambia la struttura, non solo i parametri) · il livello interno valuta sul compito reale e fornisce feedbackLivello esternoPool di componenti (operatori componibili)Termine di velocità della particella / aggiornamento posizioneStruttura topologica di vicinatoTermine di perturbazioneStrategia di riavvioLa formula fissa è scomposta in componenti opzionaliAssemblaggio della strutturaSelezione strutturale guidata dal feedback storicoCome si combinano i componentiCome si generano i candidatiCome si organizzano le regole di aggiornamentoScheletro comune di AutoPSO ed EvoGOLivello strutturale: componenti e connessioni variabiliGeneratore di candidatiIstanziati dalla struttura esternaRisultati della valutazione internaFitness / traiettoria di convergenzaRegistro delle coppie struttura-prestazioneFornisce basi statistiche per la selezione esternaLa densità dei campioni è il presupposto di una selezione affidabilecombinazioneistanziazioneLa struttura opera nel livello internoFeedback storicoIl volante dell'aggiornamento strutturaleLivello interno: valutazione del compito + esecuzione parallela in batch su GPUGrandi quantità di compiti interni valutati simultaneamente, rendendo i campioni struttura-prestazione sufficientemente densiValutazione parallela in batchRegolare il fattore di apprendimento cambia solo l'intensità del comportamento; modificare la combinazione dei componenti ne cambia la forma.

Il criterio: cosa cerca davvero il livello esterno

Per distinguere la «regolazione dei parametri» dal «cambio di struttura» non basta guardare al nome del metodo, ma occorre osservareil livello dello spazio di ricerca esterno. Nei metodi come MetaDE lo spazio di ricerca esterno è costituito da configurazione e strategia dell'algoritmo interno (valori di fattore di apprendimento, probabilità di mutazione, pressione selettiva, ecc.); in AutoPSO / EvoGO lo spazio di ricerca esterno è invece la struttura algoritmica: quali componenti partecipano alla combinazione, come si articola il processo di generazione dei candidati, come si aggiornano gli stati.

  • parametri: struttura fissa, si regolano solo i valori. La portata raggiungibile è l'«intensità» del comportamento.
  • Livello strutturale: componenti e connessioni variabili. La portata raggiungibile è la «forma» del comportamento.

AutoPSO: scomporre il PSO classico in un pool di componenti

La formula classica di aggiornamento velocità-posizione del PSO è hardcoded. AutoPSO scompone questo processo in componenti componibili (termine di velocità, topologia di vicinato, termine di perturbazione, strategia di riavvio, ecc.) che il livello esterno dell'evoluzione seleziona e assembla in nuovi generatori di candidati. Non si avvale più di una struttura di aggiornamento classica fissa, ma rende la «struttura di aggiornamento» stessa una variabile ricercabile. Regolare il fattore di apprendimento cambia solo l'intensità del comportamento; modificare la combinazione dei componenti ne cambia la forma.

EvoGO: far decidere al feedback storico dove modificare la struttura

EvoGO si concentra sull'integrare il feedback storico nel percorso di evoluzione strutturale: le traiettorie di ricerca passate e i registri delle prestazioni non servono più solo a «selezionare soluzioni», ma a decidere «dove modificare la struttura al passo successivo». Il feedback passa così da filtro dei risultati a volante dell'aggiornamento strutturale: ciò che cambia è la direzione dei candidati strutturali del ciclo successivo, non la semplice scelta del miglior risultato tra un insieme di candidati già completati.

Scheletro a due livelli condiviso e implicazioni ingegneristiche

Entrambi condividono lo stesso scheletro: l'algoritmo interno opera sul compito reale, mentre il livello esterno evolve la struttura in base alle prestazioni interne. Il presupposto chiave è la densità dei campioni: l'esecuzione parallela in batch su GPU di grandi quantità di compiti interni rende i campioni di confronto «struttura-prestazione» sufficientemente densi, cosicché la selezione esterna abbia significato statistico e non sia influenzata dal rumore di una singola esecuzione.

Implicazioni ingegneristiche
L'algoritmo passa da «scelta a priori una tantum» a «oggetto migliorabile in modo continuativo». Il prezzo da pagare è che l'evoluzione a livello strutturale comporta naturalmente uno spazio di ricerca più ampio e costi di valutazione più elevati; la sua fattibilità dipende quindi da una base parallela tensoriale, che è anche la motivazione diretta del tema della parallelizzazione su GPU nella prossima sezione.