Concevoir un plan d'expérience d'optimisation bi-niveau

Le plan d'expérience d'optimisation bi-niveau doit répondre à une question précise :quelle valeur donner au facteur de mutation F de l'évolution différentielle (DE). Sa démarche ne consiste pas à poursuivre le réglage manuel, mais à élever F du statut d'hyperparamètre fixe à celui d'objet évolutif de la boucle externe, en considérant « exécuter une tâche de résolution DE avec un certain réglage de F » comme leprocessus d'évaluation de la boucle interne; la boucle externe met à jour la configuration en fonction des performances de la boucle interne. Ce plan fonctionne parce qu'il repose sur le socle de calcul moderne d'EvoX : populations, résultats d'évaluation et états d'algorithme sont organisés entenseurscalculables en bloc, ce qui permet aux configurations candidates d'être mutées et évaluées par lots et d'entrer dans le graphe de calcul pour bénéficier des optimisations de compilation, puis d'être distribuées par le planificateur Runtimevers les GPU, les accélérateurs ou les clusters distribués, compressant ainsi le long cycle expérimental série en une fenêtre temporelle acceptable.

Tâche interne : transformer les performances en signal comparable

La boucle interne est uneexpérience reproductible. On choisit d'abord une tâche d'optimisation ou un ensemble de fonctions de référence, puis on verrouille entièrement la structure principale de DE, la dimension, le budget d'évaluation et le jeu de graines aléatoires — la seule quantité qui varie est la configuration F transmise par la boucle externe. Chaque exécution doit enregistrer : la meilleure valeur, la vitesse de convergence (nombre de générations nécessaires pour atteindre le seuil), le taux de réussite, la violation des contraintes, les indicateurs multi-objectifs (comme l'hypervolume) et la diversité des candidats. Ces enregistrements constituent toute l'information que la boucle externe peut « voir », et la seule base sur laquelle elle juge de la qualité. L'évaluation s'exécute par lots sous forme de tenseurs, une même grappe de candidats partageant un graphe de calcul, ce qui évite le coût d'une évaluation sérielle individu par individu.

Objet de stratégie externe : F n'est plus une constante

La boucle externe ne recherche pas une valeur numérique, mais une stratégie F. Les encodages courants sont de trois types : F constante ; constante par phases, par exemple le gène [F₁, F₂, F₃] commuté selon des intervalles de générations ; une fonction de planification contrôlée par un petit nombre de gènes, déclenchant différents F selon le taux de réussite courant, la variance de la population ou la proportion de générations. Pour un encodage de type stratégie, outre les gènes eux-mêmes, il faut préciser les caractéristiques d'entrée et les règles de sortie, sinon le même segment de gènes produira des résultats totalement différents selon l'implémentation.

Mode de mappage : du génotype à la configuration d'exécution

Le mappage du génotype de la boucle externe vers la configuration d'exécution de la boucle interne doit êtreexplicite et reproductible. Par exemple, le gène [Fdébut, Ffin, décroissance] se mappe vers une planification décroissante selon les générations : F(t) = Fdébut + (Ffin − Fdébut) × e^(−décroissance × t / T), où t est la génération courante et T le nombre total de générations ; le gène [F₁, F₂, F₃] se mappe vers une commutation en trois segments constants. Un même génotype doit toujours se mapper vers la même configuration d'exécution, sinon les « bons gènes » appris par la boucle externe sont inexplicables et ne peuvent pas être transférés à de nouvelles tâches.

Processus en boucle fermée et journaux obligatoires

La boucle complète est la suivante : la population externe génère un lot de configurations F → le planificateur Runtime distribue en parallèle les tâches DE internes par lots sous forme de tenseurs → évaluation par lots sur GPU → synthèse des indicateurs → sélection, mutation, croisement et mise à jour de la boucle externe → passage au tour suivant. On reprend ici l'organisation en couches d'EvoX : la couche algorithme porte l'évolution externe et la logique DE interne, les modules de problème fournissent les tâches de référence, le planificateur Runtime se charge de distribuer les calculs par lots vers les GPU ou les clusters distribués, et les modules de surveillance récupèrent les indicateurs. La boucle fermée doit laisser des enregistrements rejouables : graine aléatoire, budget d'évaluation, ID de tâche, modèle de matériel et condition d'arrêt. Toute conclusion de « victoire de la boucle externe » doit pouvoir être reproduite dans les mêmes conditions.

Conditions aux limites et référence : triple protection

Protection contre le bruit :Lorsque l'évaluation interne est très fluctuante, le résultat d'une seule exécution n'est pas fiable ; il faut répéter les exécutions indépendantes et rapporter les intervalles de confiance. La fitness peut être agrégée par moyenne, médiane ou quantile le plus défavorable, tout en séparant les tâches d'entraînement et de validation, afin d'éviter que la boucle externe ne s'ajuste qu'à quelques graines chanceuses.Protection contre les coûts :Lorsque les tâches internes sont coûteuses, on effectue d'abord un pré-tri avec des modèles de faible fidélité ou des évaluations substitutives, puis on réévalue à haute fidélité un petit nombre de candidats.Protection par la référence :F fixe = 0.5 et le DE adaptatif classique doivent être comparés sur un pied d'égalité, et une expérience d'ablation doit confirmer que le gain provient de l'évolution externe elle-même, et non d'un plus grand nombre d'évaluations. Si l'espace de recherche externe est trop restreint, l'optimisation bi-niveau dégénère en réglage manuel ; il faut alors élargir l'espace d'encodage plutôt que d'augmenter simplement le budget.

Plan d'expérience et processus d'optimisation bi-niveau

L'illustration prend comme exemple le facteur de mutation F de l'évolution différentielle : la boucle interne verrouille la tâche, la dimension, le budget d'évaluation et les graines aléatoires, ne laissant varier que la stratégie F transmise par la boucle externe, et enregistre la meilleure valeur, la vitesse de convergence, le taux de réussite, la violation des contraintes, l'hypervolume et la diversité des candidats ; la boucle externe peut encoder une F constante, une F par segments ou une fonction de planification, puis évaluer par lots et sélectionner les mises à jour après un mappage explicite. La boucle fermée doit également conserver la graine, le budget, l'ID de tâche, le matériel et la condition d'arrêt, afin de garantir que les conclusions sont reproductibles.

Question 1

Dans la tâche interne du plan d'expérience d'optimisation bi-niveau, quels éléments faut-il fixer en plus de F pour pouvoir attribuer les différences entre configurations de F ?

Redémarrer aléatoirement à chaque exécution et conserver la meilleure

Il suffit de fixer la graine aléatoire, les autres éléments peuvent varier automatiquement

Fixer la taille de la population externe et laisser la boucle interne s'exécuter librement

Fixer la structure principale de DE, la dimension, le budget d'évaluation et le jeu de graines aléatoires

Question 2

Si le gène de la boucle externe est encodé [Fdébut, Ffin, décroissance], à quelle forme de F correspond-il ?

Une planification continue F(t) à décroissance exponentielle selon les générations

Une règle déclenchée aléatoirement selon la variance de la population

Trois segments constants commutés selon des intervalles de générations

Une F constante indépendante du nombre de générations

Question 3

Dans le processus en boucle fermée de l'optimisation bi-niveau, quelle est l'étape qui suit immédiatement la génération d'un lot de configurations F par la population externe ?

Passer directement à l'itération suivante pour gagner du temps

Le planificateur Runtime distribue en parallèle les tâches DE internes et l'évaluation par lots sous forme de tenseurs sur GPU

Mettre immédiatement à jour la fitness externe avec ce lot de configurations

Vérifier manuellement chaque configuration avant de l'exécuter

Question 4

Lorsque le bruit de l'évaluation interne est important, quelle pratique permet le mieux d'éviter que la boucle externe ne s'ajuste à des graines aléatoires spécifiques ?

Augmenter directement la taille de la population externe pour couvrir le bruit avec plus d'individus

Fusionner plusieurs graines en une seule exécution très longue

Réaliser plusieurs exécutions indépendantes et agréger par médiane, quantile le plus défavorable, etc., tout en distinguant les tâches d'entraînement et de validation

Ne prendre que la meilleure valeur d'une seule exécution comme fitness

Question 5

Quelle est la méthode la plus rigoureuse pour prouver que l'évolution externe apporte réellement un gain ?

Comparer sur un pied d'égalité avec des références telles que F fixe = 0.5 et le DE adaptatif classique, et réaliser des expériences d'ablation pour confirmer la source du gain

Prolonger indéfiniment le temps d'exécution de la boucle interne jusqu'à ce que le résultat externe dépasse la référence

Augmenter le nombre de GPU pour accélérer la boucle interne

Ne rapporter que le résultat, sur une seule exécution, de la meilleure configuration trouvée par la boucle externe

Cas pratique : construire un plan d'optimisation bi-niveau pour le facteur de mutation de DE

Lisez la situation puis répondez aux deux questions ci-dessous en proposant un plan exécutable.

Une équipe d'algorithmique souhaite améliorer les performances de l'évolution différentielle sur une suite de référence en optimisation continue. Elle décide de ne plus régler manuellement le facteur de mutation F, mais de construire un plan d'expérience d'optimisation bi-niveau : la boucle externe fait évoluer la stratégie F, la boucle interne évalue les performances réelles de cette stratégie sur les tâches de référence. Les ressources disponibles sont de 4 GPU et une fenêtre de salle de 24 heures ; l'équipe doit livrer un plan que tout collègue peut rejouer dans les mêmes conditions, et expliquer comment déterminer si l'évolution externe est réellement efficace.

1. Concevez la règle de mappage du génotype de la boucle externe vers la configuration d'exécution de la boucle interne, et expliquez pourquoi ce mappage doit être explicite et reproductible.

Réponse :
On peut concevoir une planification continue : le gène [Fdébut, Ffin, décroissance] se mappe vers F(t) = Fdébut + (Ffin − Fdébut) × e^(−décroissance × t / T), où t est la génération courante et T le nombre total de générations ; on peut aussi concevoir une constante par segments : le gène [F₁, F₂, F₃] commuté successivement selon des intervalles de générations ; si l'on adopte un encodage de type stratégie, il faut en outre préciser les caractéristiques d'entrée (comme le taux de réussite courant, la variance de la population) et les règles de sortie correspondantes. Le mappage doit être explicite et reproductible parce que les gènes ne portent pas en eux-mêmes de sémantique : c'est seulement après mappage qu'ils deviennent le F réellement utilisé par la boucle interne. Seul un mappage figé permet d'expliquer pourquoi la boucle externe gagne, de transférer la configuration à de nouvelles tâches et de permettre à un tiers de rejouer la vérification dans les mêmes conditions. Si le mappage contient des valeurs par défaut implicites, le même gène donnera des résultats différents selon l'implémentation, et la conclusion de la boucle externe perd tout sens.

2. Proposez les indicateurs d'évaluation de ce plan et le schéma d'agrégation de la fitness externe, et expliquez comment vérifier le gain de la boucle externe à l'aide de références et d'expériences d'ablation.

Réponse :
Au niveau de la boucle interne : chaque configuration F est répétée indépendamment 20 fois sur la référence choisie avec le même budget, en verrouillant la structure DE, la dimension et le jeu de graines, et l'on enregistre la meilleure valeur, les générations de convergence, le taux de réussite et la variance d'exécution. Au niveau de la boucle externe : on agrège d'abord les performances des tâches en un signal de retour, par exemple fitness externe = rang moyen de la meilleure valeur + 0,1 × générations de convergence + 0,05 × pénalité de variance, en passant si nécessaire à des agrégations plus robustes comme la médiane, le quantile le plus défavorable, l'AUC de convergence ou l'hypervolume. Sur le plan technique, il faut séparer les tâches d'entraînement et de validation : l'évolution externe se fait sur les tâches d'entraînement, et le verdict est rendu sur les tâches de validation. Concernant les références, F fixe = 0.5 et le DE adaptatif classique doivent tourner avec le même budget, le même matériel et le même jeu de graines ; pour l'ablation, il faut exécuter en plus un groupe témoin « sans évolution externe, avec un échantillonnage aléatoire d'un nombre équivalent de configurations F », afin d'exclure la possibilité que le gain provienne simplement d'un plus grand nombre d'évaluations. Ce n'est que lorsque la solution externe gagne de manière stable sur les tâches de validation et que les intervalles de confiance ne se chevauchent pas que l'on peut conclure à l'efficacité de la structure ; si l'avantage disparaît sur les tâches de validation, on conclut à un échec et l'on revient vérifier si le niveau de bruit interne et le budget sont suffisants.