방법 진화(Meta-Evolution)는 '후보를 생성하는 방법' 자체를 최적화 대상으로 끌어올립니다. 알고리즘은 더 이상 해를 찾는 데 그치지 않고, '자신이 해를 찾는 방식'까지 개선합니다.MetaDE 와(과) AutoPSO 는 이 사상의 두 가지 대표적 구현이며, 둘은 동일한 골격을 공유합니다——내외 이중 계층 아키텍처: 외부 계층은알고리즘 공간을 검색하고, 내부 계층은 후보 알고리즘으로목표 과제를 풉니다. 내부 계층의 성능은 외부 계층의 적합도 신호로 환류되어 알고리즘 자체의 지속적 개선을 이끌며, 폐루프를 형성합니다.
이중 계층 아키텍처의 일반적 추상화
- 외부 계층(알고리즘 공간 검색): 하이퍼파라미터, 전략, 컴포넌트 조합 등 '알고리즘의 정의'를 검색합니다. 그 검색 공간은 해 공간이 아니라 알고리즘 설정과 구조의 공간입니다.
- 내부 계층(목표 과제 해결): 외부 계층이 전달한 후보 알고리즘으로 실제로 과제를 해결하여 측정 가능한 성능을 얻고, 이를 해당 후보 알고리즘의 평가 근거로 삼습니다.
- 신호 회로: 내부 계층의 성능이 적합도로 집계되어 외부 계층으로 환류되고, 외부 계층은 이를 바탕으로 열등한 설정을 도태시키고 우수한 설정을 유지·변이시킵니다. 폐루프가 성립하면 해를 구하는 일과 해를 구하는 방식을 개선하는 일이 동시에 일어납니다.
MetaDE: DE의 설정을 외부 계층의 진화에 맡기다
MetaDE는 차분 진화를 내부 계층의 솔버로 유지하면서, DE 자체의 설정을 외부 계층의 검색에 맡깁니다. 변이 전략의 선택, 교차율, 스케일링 인자 등은 더 이상 고정 상수가 아니라 문제와 최적화 단계에 따라 적응적으로 조정되는 진화 대상입니다. 이는 '이 설정을 현재 과제 단계에서 어떻게 잡아야 하는가'에 답하는 것으로, 설정 계층의 방법 진화에 속합니다.
AutoPSO: 파라미터 수정에서 알고리즘 구조 변경으로
AutoPSO는 PSO의 핵심 파라미터와 학습 메커니즘을조합 가능한 컴포넌트로 간주합니다——관성 가중치, 학습 인자, 그리고 개체 및 군집 학습 메커니즘의 다양한 조합을 외부 계층이 자동으로 검색하여 서로 다른 문제에 적합한 PSO 변이형을 조합합니다. 단순히 파라미터만 조정하는 것과 달리 '알고리즘 선택'을 '알고리즘 구조 탐색'으로 전환하여, 파라미터 적응에서 메커니즘 자기 생성으로 도약합니다. 둘은 상호 보완적입니다. MetaDE는 설정과 하이퍼파라미터 계층의 자동 튜닝에, AutoPSO는 구조와 컴포넌트 계층의 자동 조합에 치중하며, 함께 파라미터 적응에서 메커니즘 자기 생성까지의 진화 범위를 포괄합니다.
비용 구조와 엔지니어링 의존성
이중 계층 최적화의 핵심 비용은 곱셈 효과에 있습니다. 외부 계층이 후보 알고리즘 하나를 평가할 때마다 여러 번의 내부 실행(무작위성으로 인한 반복 평가, 다중 과제 공동 검증 등)이 필요한 경우가 많아 계산 예산이 크게 증폭됩니다. 따라서 반드시예산 할당,근사 평가,조기 종료또는병렬화등의 트레이드오프를 수행해야 합니다. 엔지니어링 측면에서 효율적인 실행은 텐서화 병렬, Runtime 스케줄링, 알고리즘 조합 가능성에 의존합니다. 그렇지 않으면 외부 계층 검색의 규모가 내부 계층의 반복 평가에 짓눌리게 됩니다.
MetaDE 내외 이중 계층 아키텍처이 그림은 MetaDE의 내외 이중 계층 폐루프를 보여줍니다. 외부 계층은 알고리즘 설정 공간에서 변이 전략, 교차율, 스케일링 인자를 검색하고, 내부 계층은 이 설정으로 차분 진화를 실행하여 목표 과제를 해결하며, 내부 계층의 성능을 적합도로 집계해 외부 계층으로 환류하여 설정의 도태, 유지, 변이를 이끕니다.
