8

Evolución de la estructura de algoritmos: AutoPSO y EvoGO

AI999第5课:方法演化:从优化解到优化算法本身
00:00

En métodos como MetaDE, la evolución ocurre en elnivel de parámetros: el algoritmo interno resuelve la tarea real y el algoritmo externo ajusta la configuración y la estrategia del interno. Sin embargo, AutoPSO y EvoGO elevan el objeto de evolución un nivel más: evolucionan directamentela propia estructura del algoritmo: cómo se combinan los componentes, cómo se generan los candidatos y cómo se organizan las reglas de actualización.

Evolución de la estructura de algoritmos: AutoPSO y EvoGOEl nivel externo evoluciona la estructura del algoritmo (cambia la estructura, no solo ajusta parámetros) · el nivel interno evalúa en tareas reales y retroalimentaNivel externoPool de componentes (operadores combinables)Término de velocidad de partícula / actualización de posiciónEstructura de topología de vecindadTérmino de perturbaciónEstrategia de reinicioLa fórmula fija se descompone en componentes opcionalesEnsamblaje de estructuraSelección de estructura guiada por retroalimentación históricaCómo se combinan los componentesCómo se generan los candidatosCómo se organizan las reglas de actualizaciónEsqueleto común de AutoPSO y EvoGONivel estructural: componentes y conexiones variablesGenerador de candidatosInstanciado por la estructura externaResultados de la evaluación internaAptitud / trayectoria de convergenciaRegistros de pares estructura-rendimientoProporciona base estadística para la selección externaLa densidad de muestras es requisito para una selección fiableCombinaciónInstanciaciónLa estructura se ejecuta en el nivel internoRetroalimentación históricaEl timón de la actualización estructuralNivel interno: evaluación de tareas + ejecución por lotes en paralelo con GPUMuchas tareas internas se evalúan a la vez, logrando muestras de comparación estructura-rendimiento suficientemente densasEvaluación por lotes en paraleloAjustar los factores de aprendizaje solo cambia la intensidad del comportamiento; modificar la combinación de componentes es lo que cambia su forma.

Criterio: qué busca realmente el nivel externo

Para distinguir entre "ajustar parámetros" y "cambiar la estructura" no basta con mirar el nombre del método, sinoel nivel del espacio de búsqueda externo. En métodos como MetaDE, el espacio de búsqueda externo son la configuración y la estrategia del algoritmo interno (valores como el factor de aprendizaje, la probabilidad de mutación, la presión selectiva, etc.); en AutoPSO / EvoGO, el espacio de búsqueda externo es la estructura del algoritmo: qué componentes participan en la combinación, cómo es el flujo de generación de candidatos y cómo se actualizan los estados.

  • nivel de parámetros: la estructura es fija, solo se ajustan valores. El alcance posible es la "intensidad" del comportamiento.
  • Nivel estructural: los componentes y las conexiones son variables. El alcance posible es la "forma" del comportamiento.

AutoPSO: descomponer el PSO clásico en un pool de componentes

La fórmula de actualización de velocidad-posición del PSO clásico está fijada de antemano. AutoPSO descompone este proceso en componentes combinables: término de velocidad, topología de vecindad, término de perturbación, estrategia de reinicio, etc., que luego el nivel externo selecciona y ensambla en un nuevo generador de candidatos. Ya no utiliza la estructura de actualización clásica fija, sino que convierte la "estructura de actualización" misma en una variable que se puede buscar. Ajustar los factores de aprendizaje solo cambia la intensidad del comportamiento; modificar la combinación de componentes es lo que cambia su forma.

EvoGO: dejar que la retroalimentación histórica decida hacia dónde cambiar la estructura

EvoGO se centra en incorporar la retroalimentación histórica en la ruta de evolución estructural: las trayectorias de búsqueda previas y los registros de rendimiento ya no se usan solo para "seleccionar soluciones", sino para decidir "hacia dónde cambiar la estructura en el siguiente paso". Así, la retroalimentación pasa de ser un filtro de resultados a ser el timón de la actualización estructural: lo que cambia es la dirección de los candidatos estructurales de la siguiente ronda, y no simplemente elegir un buen resultado entre un lote de candidatos ya completados.

Esqueleto de dos niveles compartido e implicaciones de ingeniería

Ambos comparten el mismo esqueleto: el algoritmo interno se ejecuta en tareas reales y el nivel externo evoluciona la estructura a partir del rendimiento del interno. El requisito clave es la densidad de muestras: ejecutar por lotes en paralelo con GPU una gran cantidad de tareas internas hace que las muestras de comparación "estructura-rendimiento" sean lo bastante densas, de modo que la selección externa tenga significado estadístico y no se deje llevar por el ruido de una sola ejecución.

Implicaciones de ingeniería
El algoritmo pasa de ser una "elección a priori única" a ser "un objeto que puede mejorarse de forma continua". El precio es que la evolución a nivel estructural conlleva de forma inherente un mayor espacio de búsqueda y un mayor costo de evaluación, por lo que su viabilidad depende de una base de paralelismo tensorial; este es también el motivo directo del tema de paralelismo con GPU de la siguiente sección.