L'evoluzione dell'algoritmo stesso: dal risolvere problemi al migliorare i metodi

Gli algoritmi evolutivi tradizionali operano in presenza di unmeccanismo di generazione fisso: le regole su «come produrre le risposte», come selezione, crossover e mutazione, sono scritte in anticipo dall'uomo; la ricerca si muove solo nello spazio delle risposte e ciò che viene ottimizzato è semprela soluzione candidata. Una volta ampliata la scala di calcolo, questo presupposto diventa anzi un tetto: se il metodo che genera i candidati non cambia, il sistema può solo ripetere schemi prestabiliti.

L'evoluzione del metodo (Meta-Evolution)sposta il problema a un livello superiore: l'algoritmo non produce solo risposte migliori, ma attraverso una ricerca esterna migliora continuamente lastrategia, i parametri e le componentiche generano le risposte, compiendo l'evoluzione da «risolvere problemi» a «migliorare metodi». EvoX è proprio il lavoro che procede lungo questa direzione: include nell'oggetto dell'evoluzione il metodo stesso di generazione dei candidati (come la strategia di mutazione e l'impostazione dei parametri dell'evoluzione differenziale).

Una logica a due livelli: il livello interno trova le risposte, quello esterno modifica i metodi

Livello interno: usaMetodo attualeper risolvere problemi specifici e generare soluzioni candidate.
Livello esterno: in base a feedback come qualità della soluzione, segnali di preferenza, stabilità o costo, migliora il metodo da usare nel ciclo successivo.
L'oggetto spostato nello spazio di ricerca non è una soluzione, bensìil meccanismo stesso di generazione dei candidati; proprio per questo diventa un oggetto valutabile, selezionabile e aggiornabile.

A quale livello collocare l'ottimizzazione delle preferenze

L'ottimizzazione delle preferenze può contribuire al feedback di livello superiore, ma è necessario separare due tipi di obiettivi:valutare la risposta attualeemigliorare il metodo che genera le risposte. Interpretare «questa soluzione è più gradita» direttamente come «questa strategia è migliore» significa spacciare la preferenza per una risposta come giudizio sulla qualità del metodo: la ricerca esterna verrebbe trascinata dal rumore di un singolo risultato.

Forme tipiche

MetaDE fa evolvere a livello esterno la strategia di mutazione e i parametri dell'evoluzione differenziale, mentre il livello interno risolve normalmente il task; AutoPSO ed EvoGO combinano ulteriormente le componenti dello sciame di particelle e utilizzano il feedback storico per apprendere il modo di generare i candidati, compiendo il salto da «modificare i parametri» a «modificare la struttura dell'algoritmo».

Cosa si guadagna, cosa si paga

Questa trasformazione spinge la progettazione degli algoritmi da una taratura manuale una tantum verso un adattamento sostenibile, ma i costi sono altrettanto chiari:espansione dello spazio di ricerca(lo spazio dei metodi è molto più grande di quello delle soluzioni),aumento dei costi di valutazione(ogni insieme di metodi candidati deve eseguire i task del livello interno, e si dipende di norma da valutazioni in batch parallele su GPU per diluire i costi),maggiore complessità di validazione(per verificare se i miglioramenti esterni generalizzino davvero serve un progetto di validazione indipendente).

Diagramma della logica dell'evoluzione a due livelli

Il diagramma suddivide l'evoluzione in due livelli: il livello interno risolve problemi specifici con il metodo attuale e genera soluzioni candidate; il livello esterno, in base a feedback come qualità della soluzione, preferenze, stabilità o costo, migliora la strategia, i parametri e le componenti che genereranno i candidati nel ciclo successivo. L'oggetto della ricerca sale così dalla soluzione al meccanismo di generazione dei candidati.

Domanda 1

Rispetto agli algoritmi evolutivi tradizionali, qual è la differenza più essenziale dell'evoluzione del metodo riguardo all'«oggetto dell'ottimizzazione»?

Include nell'oggetto della ricerca la strategia, i parametri e le componenti degli operatori che determinano «come produrre le risposte».

Si limita ad aumentare la dimensione della popolazione per cercare più a lungo nello spazio delle risposte.

Elimina la valutazione di fitness e decide la qualità solo con punteggi manuali.

Sostituisce completamente gli operatori di selezione, crossover e mutazione con reti neurali.

Domanda 2

Nella struttura a due livelli (interno ed esterno), su cosa si basa direttamente la ricerca del livello esterno?

Puro rumore casuale, usato per mantenere la diversità anche a livello esterno.

I valori grezzi delle soluzioni candidate del livello interno, senza alcuna valutazione.

Feedback proveniente dalle prestazioni dei task del livello interno, come qualità della soluzione, segnali di preferenza, stabilità o costo.

Nuovi parametri specificati manualmente dagli ingegneri dopo ogni iterazione.

Domanda 3

Riguardo al ruolo dell'ottimizzazione delle preferenze in un sistema di evoluzione del metodo, quale delle seguenti gestioni è la più appropriata?

Sostituire direttamente la funzione di fitness del livello interno con le preferenze sulle risposte, facendo condividere un unico punteggio ai due livelli.

Far contribuire i segnali di preferenza al feedback di livello superiore, ma trattare «valutare la risposta attuale» e «migliorare il metodo di generazione» come due tipi di obiettivi distinti.

Considerare direttamente la preferenza dell'utente per una risposta come unico criterio di qualità del metodo.

Vietare del tutto l'ingresso dell'ottimizzazione delle preferenze in qualsiasi fase dei livelli interno ed esterno.

Domanda 4

Adottando l'evoluzione del metodo, quale dei seguenti è un costo che si deve necessariamente accettare?

La risoluzione al livello interno non richiede più alcuna fase di valutazione.

La ricerca esterna converge senza bisogno di alcun segnale di feedback.

Lo spazio delle soluzioni viene automaticamente ridotto a dimensioni minime e il livello interno non deve quasi più cercare.

Espansione dello spazio dei metodi, costo di valutazione al livello interno per ogni insieme di metodi e maggiore difficoltà di validazione.

Domanda 5

Quale delle seguenti descrizioni di MetaDE e AutoPSO è accurata?

AutoPSO ed EvoGO fanno regredire dal miglioramento della struttura dell'algoritmo alla modifica dei soli parametri.

AutoPSO regola solo il tasso di apprendimento, un unico parametro scalare, lasciando invariati gli altri componenti.

MetaDE elimina l'algoritmo di livello interno e fa produrre direttamente al livello esterno la risposta finale.

MetaDE usa il livello esterno per evolvere la strategia di mutazione e i parametri dell'evoluzione differenziale, mentre il livello interno continua a occuparsi della ricerca delle soluzioni candidate per i task specifici.

Caso: costruire un sistema di evoluzione del metodo per l'ottimizzazione del layout dei chip

Leggi lo scenario e rispondi alle due domande seguenti.

Un team deve ottimizzare il layout dei chip su un cluster di GPU. Dispone già di un solutore basato sull'evoluzione differenziale, ma la strategia di mutazione e i parametri dipendono da tempo dall'esperienza manuale e le prestazioni variano in modo evidente tra i diversi task di layout. Il team intende introdurre un'ottimizzazione a due livelli di tipo MetaDE: il livello interno risolve il problema di layout specifico con la configurazione attuale, il livello esterno migliora la configurazione in base alle prestazioni dei task interni, e si vuole guidare la direzione della ricerca tramite le preferenze dell'utente (preferenza per lunghezze di connessione più brevi e minore congestione).

1. Definisci input, output e segnali di feedback per il livello interno e quello esterno del sistema, e spiega perché il risultato di una singola soluzione interna non può essere usato direttamente come obiettivo di ottimizzazione del livello esterno.

Risposta:
Livello interno: l'input è il metodo attuale (strategia di mutazione e configurazione dei parametri) e un'istanza specifica del problema di layout; l'output è il layout candidato e la sua qualità. Livello esterno: l'input è la statistica riassuntiva delle prestazioni dei task interni; l'output è la strategia e la configurazione dei parametri aggiornate. I segnali di feedback devono essere aggregati tra task e tra esecuzioni ripetute (ad esempio media tra più task, quantili o indicatori di stabilità), non presi da una singola esecuzione. Il motivo è che la bontà di una singola soluzione dipende fortemente dall'istanza specifica e dalla casualità: misura «quanto è buona questa risposta», non «quanto è buono questo metodo». Se si guidasse il livello esterno direttamente con un singolo risultato, questo sarebbe dominato dalle differenze tra istanze e dal rumore, e rischierebbe di selezionare configurazioni efficaci solo per caso su uno o due task.

2. Il team vuole introdurre segnali di preferenza, controllando al tempo stesso i costi dell'evoluzione del metodo. Spiega come collocare i segnali di preferenza ed elenca almeno due tipi di costi principali con le relative strategie di gestione.

Risposta:
La collocazione dei segnali di preferenza deve essere stratificata: al livello interno, si può usare una funzione di valutazione ponderata dalle preferenze per filtrare i layout candidati; al livello esterno, occorre prima trasformarli in un criterio di confronto stabile tra i task (ad esempio un punteggio ponderato degli indici di lunghezza di connessione e congestione, con la relativa varianza) e solo dopo usarli per selezionare le configurazioni dei metodi, evitando di trattare la preferenza per una singola risposta come giudizio sulla qualità del metodo. Costi principali e strategie: (1) espansione dello spazio di ricerca — lo spazio dei metodi è molto più grande di quello delle soluzioni; si possono adottare raggruppamento dei parametri, ricerca stratificata e una strategia dal grossolano al fine per controllarne la dimensione; (2) aumento dei costi di valutazione — ogni insieme di metodi candidati deve eseguire i task interni; si possono ridurre i costi con valutazioni in batch parallele su GPU, valutazione surrogata su pochi campioni e meccanismi di arresto anticipato; (3) maggiore complessità di validazione — è necessario mantenere un insieme di task di validazione indipendente ed eseguirlo ripetutamente per verificare se i miglioramenti esterni generalizzino davvero e prevenire l'overfitting sui task di addestramento.