手法進化(Meta-Evolution)とは、「候補を生成する手法」そのものを最適化の対象へと引き上げる考え方です。アルゴリズムは解を探すだけでなく、「いかにして解を探すか」をも改善します。MetaDE と AutoPSO はこの思想を代表する二つの実装であり、両者は同一の骨格——内外二層アーキテクチャを共有します。外層はアルゴリズム空間を探索し、内層は候補アルゴリズムで対象タスクを解きます。内層の性能は外層への適応度信号としてフィードバックされ、アルゴリズム自身の継続的な改善を駆動し、閉ループを形成します。
二層アーキテクチャの汎用的抽象
- 外層(アルゴリズム空間の探索):ハイパーパラメータや戦略、コンポーネントの組み合わせなど「アルゴリズムの定義」を探索します。その探索空間は解空間ではなく、アルゴリズムの設定と構造の空間です。
- 内層(対象タスクの求解):外層から配布された候補アルゴリズムで実際にタスクを求解し、測定可能な性能を得て、その候補アルゴリズムの評価根拠とします。
- 信号回路:内層の性能は適応度として集約され外層へフィードバックされ、外層はこれに基づいて劣った設定を淘汰し、優れた設定を保持・変異させます。閉ループが成立すれば、求解と求解手法の改善が同時に起こります。
MetaDE:DE の設定を外層の進化に委ねる
MetaDE は差分進化を内層ソルバーとして保持しつつ、DE 自身の設定を外層の探索に委ねます。変異戦略の選択、交叉率、スケーリング因子などはもはや固定定数ではなく、問題と最適化段階に応じて適応的に調整される進化対象となります。これは「この設定を現在のタスク段階でどう設定すべきか」に答えるもので、設定層の手法進化に属します。
AutoPSO:パラメータ変更からアルゴリズム構造の変更へ
AutoPSO は PSO の中核パラメータと学習機構を組み合わせ可能なコンポーネントと見なします——慣性重み、学習因子、および個体学習と群学習の機構の異なる組み合わせを、外層が自動的に探索し、異なる問題に適応する PSO 変種を組み合わせます。パラメータ調整のみと比べて、「アルゴリズムの選択」を「アルゴリズム構造の探索」へと転換し、パラメータ適応から機構の自己生成への飛躍を実現します。両者は相補的です:MetaDE は設定とハイパーパラメータ層の自動チューニングを、AutoPSO は構造とコンポーネント層の自動組み合わせを担い、ともにパラメータ適応から機構の自己生成までの進化範囲をカバーします。
コスト構造とエンジニアリング依存
二層最適化の鍵となるコストは乗算効果にあります。外層がある候補アルゴリズムを評価するたびに、しばしば複数回の内層実行(ランダム性による反復評価、マルチタスクの合同検証など)が必要となり、計算予算が著しく膨張します。そのため、予算配分、近似评价、早停或并行化等权衡。工程上,高效执行依赖张量化并行、Runtime 调度与算法可组合性;否则外层搜索的规模会被内层重复评估拖垮。
