Auto-miglioramento dei metodi risolutivi ed evoluzione algoritmica

Gli algoritmi evolutivi hanno un'impostazione predefinita facile da trascurare:ciò che evolve sono le soluzioni candidate, mentre il metodo che le genera resta invariato. In altre parole,gli algoritmi evolutivi tradizionali mantengono di norma fisso il metodo di ricerca e lasciano variare solo le soluzioni candidate nel corso delle iterazioni— nell'intero processo di ricerca ciò che "si muove" sono le soluzioni, mentre ciò che "resta fermo" sono le regole. Questa pagina introduce una prospettiva alternativa a tale impostazione: far entrare il metodo risolutivo stesso nel processo di ricerca e miglioramento.

Paradigma predefinito: metodo bloccato, soluzioni in evoluzione

Nell'approccio tradizionale, la modalità di crossover, la strategia di mutazione e gli iperparametri vengono di solito scelti una volta per tutte prima dell'esecuzione e poi non vengono più modificati per l'intera ricerca. Essi determinano direttamente il meccanismo di generazione delle soluzioni candidate e influenzano in modo significativo i risultati: che il compito vada bene o male, il metodo resta al suo posto.

Livello delle soluzioniin movimento: soluzione candidata → valutazione → selezione → ereditarietà, iterazione dopo iterazione.
Livello del metodofermo: strategia di mutazione, modalità di crossover e iperparametri sono preimpostati e bloccati.
Conseguenza: basandosi solo su preimpostazioni e tuning manuale, il metodo risolutivo non evolve in modo continuativo in base al feedback del compito; il miglioramento dipende soprattutto dall'esperienza umana e dal tuning manuale, la cui velocità spesso non tiene il passo con i cambiamenti del compito.

Evoluzione algoritmica: rendere ricercabile anche il metodo

L'approccio dell'evoluzione algoritmica consiste nel non trattare più la modalità di crossover, la strategia di mutazione e gli iperparametri come configurazioni fisse, ma come oggetti che possono esserecandidati, valutati e sostituiti, sottoposti insieme alle soluzioni candidate alla verifica delle prestazioni risolutive — in altre parole, far entrare l'algoritmo risolutivo stesso nel processo di ricerca e miglioramento, rendendo anche il "metodo" un oggetto evolvibile. Si aggiunge così, oltre all'iterazione originaria del livello delle soluzioni, un secondo circuito di feedback: non solo le soluzioni migliorano, ma migliora anche il metodo.

I due circuiti si possono riassumere con una semplice sequenza di frecce:Elementi del metodo → Generazione della soluzione candidata → Valutazione delle prestazioni risolutive → Conservazione o sostituzione → Aggiornamento del metodo; nel frattempo, all'interno delle soluzioni candidate continua a svolgersi l'iterazione ordinaria "generazione → valutazione → selezione → ereditarietà". Il primo circuito cambia "come cercare", il secondo cambia "che cosa si è trovato".

Svolta chiave

Dal "trovare soluzioni migliori con un algoritmo fisso" all'"aiutare l'algoritmo a migliorare se stesso durante la risoluzione". Per stabilire se un sistema pratica davvero l'evoluzione algoritmica, basta vedere se gli elementi del metodo vengono inclusi nella ricerca e se è la prestazione risolutiva a decretarne la sopravvivenza, invece di essere fissati dall'uomo una volta per tutte.

Confronto tra algoritmo fisso e auto-evoluzione algoritmica

A sinistra è illustrato il paradigma tradizionale: modalità di crossover, strategia di mutazione e iperparametri sono bloccati prima dell'esecuzione, e solo le soluzioni si evolvono attraverso generazione, valutazione, selezione ed ereditarietà, mentre il metodo stesso resta invariato. A destra compare un secondo circuito di feedback, che fa sì che questi elementi del metodo vengano anch'essi cercati, valutati e sostituiti, con la prestazione risolutiva a decretarne la sopravvivenza: l'algoritmo, cioè, migliora se stesso durante la risoluzione.

Domanda 1

Qual è il paradigma predefinito degli algoritmi evolutivi tradizionali?

Il metodo di ricerca resta fisso; solo le soluzioni candidate variano nel corso delle iterazioni

Prima si evolve il metodo, poi si ricava in un'unica soluzione la soluzione candidata

Si evolvono solo gli iperparametri, mentre le soluzioni candidate restano invariate

La soluzione candidata e il suo metodo di generazione vengono cercati e aggiornati contemporaneamente

Domanda 2

Nell'approccio tradizionale, quale dei seguenti gruppi di elementi determina direttamente il meccanismo di generazione delle soluzioni candidate?

L'ordine di numerazione e i nomi visualizzati delle soluzioni candidate

Il modello hardware e il grado di parallelismo in fase di esecuzione

Le proporzioni di suddivisione del dataset e il formato delle etichette

Strategia di mutazione, modalità di crossover e iperparametri

Domanda 3

Perché, basandosi solo su preimpostazioni e tuning manuale, il metodo risolutivo non evolve in modo continuativo in base al feedback del compito?

Perché gli algoritmi evolutivi mancano di una funzione di valutazione

Perché le soluzioni candidate non possono essere generate

Perché il tuning manuale è svolto dall'uomo e gli elementi del metodo non vengono valutati e sostituiti automaticamente in base alla prestazione risolutiva

Perché gli iperparametri non hanno un intervallo di valori

Domanda 4

Qual è la svolta centrale dell'"evoluzione algoritmica" presentata in questa pagina?

Dall'ottimizzazione a obiettivo singolo all'ottimizzazione multi-obiettivo

Dal "trovare soluzioni migliori con un algoritmo fisso" all'"aiutare l'algoritmo a migliorare se stesso durante la risoluzione"

Dalla ricerca basata su popolazione alla discesa del gradiente

Dalla progettazione manuale delle metriche di valutazione alla progettazione automatica della funzione obiettivo

Domanda 5

Quale dei seguenti approcci mostra meglio che "il metodo stesso entra nel processo di ricerca e miglioramento"?

Aumentare la dimensione della popolazione da 50 a 500

Aumentare il numero di iterazioni da 100 a 1000

Trattare modalità di crossover, strategia di mutazione e altri elementi come oggetti ricercabili, che vengono candidati, valutati e sostituiti in base alla prestazione risolutiva

Sostituire la funzione di valutazione con una più severa

Caso di studio: il "fallimento" e la riqualificazione di un solutore per la pianificazione della produzione

Leggi lo scenario seguente e poi rispondi alle domande.

Un team ha realizzato, con algoritmi evolutivi, un solutore per la pianificazione delle linee produttive di una fabbrica. Nella fase iniziale di messa in funzione, il team ha scelto una volta per tutte la modalità di crossover, la strategia di mutazione e tutti gli iperparametri, dopodiché a ogni ciclo di pianificazione rigenerava soltanto le soluzioni candidate. Sei mesi dopo, la struttura degli ordini, il numero di macchinari e le regole sulle scadenze di consegna erano cambiati più volte; sebbene il team avesse aumentato sia la dimensione della popolazione sia il numero di iterazioni, la qualità delle soluzioni continuava a peggiorare e la velocità del tuning manuale non riusciva a tenere il passo con i cambiamenti del business.

1. Basandoti sul contenuto di questa pagina, spiega perché il solutore di questo team è progressivamente diventato inefficace dopo i cambiamenti del business e illustra la differenza di meccanismo tra "tuning dei parametri" ed "evoluzione algoritmica".

Risposta:
Punti chiave: il team adotta il paradigma predefinito — il metodo di ricerca (modalità di crossover, strategia di mutazione, iperparametri) è bloccato una volta per tutte prima dell'esecuzione, e durante le iterazioni variano solo le soluzioni candidate. Quando la struttura degli ordini, il numero di macchinari e le regole sulle scadenze cambiano, cambiano anche le esigenze del compito nei confronti del meccanismo di generazione, ma il metodo bloccato non riceve alcun feedback: le soluzioni candidate generate sono quindi sempre meno adatte al nuovo compito e le prestazioni peggiorano progressivamente.
Differenza di meccanismo: il tuning manuale si basa sul giudizio empirico dell'uomo e, una volta terminato, il metodo viene nuovamente bloccato; è un percorso "intervento umano — esecuzione fissa", la cui velocità e portata sono limitate dall'uomo. L'evoluzione algoritmica, invece, inserisce gli elementi del metodo stessi nella ricerca, facendoli candidare, valutare e sostituire come le soluzioni candidate, con la prestazione risolutiva che ne decreta automaticamente la sopravvivenza, formando un circuito continuo di aggiornamento del metodo. Ampliare la popolazione o aumentare le iterazioni non fa che prolungare la ricerca all'interno dello stesso metodo, senza modificare il livello del metodo.

2. Progetta per questo solutore un piano di riqualificazione che introduca l'evoluzione algoritmica: indica quali elementi dovrebbero essere inclusi nella ricerca, con quali segnali valutarne le prestazioni, come decidere se conservarli o sostituirli e descrivi il ciclo chiuso completo.

Risposta:
Punti chiave:
(1) Elementi da includere nella ricerca: modalità di crossover, strategia di mutazione, iperparametri e, se possibile, altri elementi del metodo come la pressione selettiva e le condizioni di attivazione della ricerca locale.
(2) Segnali di valutazione: usare come base per la prestazione del metodo la prestazione risolutiva delle soluzioni candidate prodotte da quell'elemento del metodo su compiti di pianificazione reali nell'arco di un ciclo di valutazione (ad esempio il risultato ponderato di indicatori come ritardi sulle scadenze, numero di cambi di linea, tasso di utilizzo dei macchinari), confrontando per quanto possibile gli stessi esempi di compito per ridurre il rumore.
(3) Conservazione o sostituzione: considerare le combinazioni di elementi del metodo come oggetti candidabili; le combinazioni con buone prestazioni vengono conservate e usate come base per il ciclo successivo, quelle con prestazioni scarse vengono eliminate, mantenendo al contempo una piccola perturbazione casuale per preservare la diversità ed evitare una convergenza prematura.
(4) Ciclo chiuso: elementi del metodo → generazione della soluzione candidata → valutazione delle prestazioni risolutive → conservazione o sostituzione → aggiornamento del metodo, e di nuovo alla fase di generazione; nel frattempo, all'interno delle soluzioni candidate continua a svolgersi l'iterazione ordinaria "generazione → valutazione → selezione → ereditarietà". Così, mentre le soluzioni migliorano, anche il metodo viene migliorato.