5

방법 진화의 핵심 사상과 도약

AI999第5课:方法演化:从优化解到优化算法本身
00:00

앞선 강의에서는 진화 과정을 전체적으로 계산 가능한 텐서로 조직하여 대규모 후보 평가의 효율 문제를 해결했습니다. 이 페이지에서는 한 걸음 더 나아갑니다. 만약 최적화의 대상이 후보 답안뿐만 아니라후보 답안을 생성하는 방법이라면 무슨 일이 일어날까요? 방법 진화(Meta-Evolution)의 핵심 도약은 '후보 해를 생성하는 방법' 자체를 최적화 대상으로 전환하는 것입니다. 즉, 답안만을 진화시키는 것이 아니라 답안을 생성하고 개선하는 알고리즘, 전략 또는 연산자를 진화시켜, 알고리즘을 고정된 도구에서 지속적으로 진화하는 솔버로 바꾸는 것입니다.

방법 진화: 이중 계층 피드백 폐루프후보 해를 생성하는 방법 자체를 최적화 대상으로 포함시켜, 알고리즘을 고정된 도구에서 지속적으로 진화하는 솔버로 변화시킨다문제군 / 환경다중 태스크 분포평가 신호 출처교차 태스크 일반화두 계층이 동일한 환경 공유환경태스크방법 계층 · 외부 진화진화 가능한 방법 공간: 방법 자체를 최적화 변수로 삼는다변이 전략교차 확률연산자 조합하이퍼파라미터방법 업데이트: 선택 · 변이 · 재조합(평가 피드백에 의해 구동)해 계층 · 내부求解구체적 태스크에서 후보를 생성하고 평가를 받는다후보 해 생성태스크 평가적합도 피드백방법 / 구성평가 피드백 · 크레딧 할당핵심 구분해만 변한다 → 여전히 전통적 최적화방법 계층도 피드백을 받아 업데이트한다 → 방법 진화

1. '답안 진화'에서 '방법 진화'로

전통적 경로는 단일 체인으로 표현할 수 있습니다:문제 → 고정 알고리즘 → 후보 해. 연구자는 먼저 알고리즘이나 연산자를 선택한 뒤 알고리즘이 문제 공간에서 탐색하도록 하며, 알고리즘 자체는 변하지 않습니다. 방법 진화는 이 체인을 다음과 같이 재작성합니다:문제군/환경 → 진화 가능한 방법 공간 → 후보 생성기 → 후보 해 평가 → 방법 업데이트 → 재생성. 최적화 변수는 해 x 에서 방법, 연산자, 메타휴리스틱 규칙 또는 후보 생성 과정으로 확장됩니다 m. 여기서 '방법'은 차분 진화의 변이 전략, 입자 군집의 관성 가중치와 토폴로지, 지역 탐색 연산자일 수도 있고, 더 상위의 알고리즘 선택과 스케줄링 규칙일 수도 있습니다.

2. 다섯 가지 핵심 전환

  • 진화 대상 확장: 해, 파라미터, 구조에서 방법, 연산자, 메타휴리스틱 규칙 또는 후보 생성 과정으로 확장됩니다.
  • 문제 재정의: 최적화 문제가 '주어진 알고리즘 아래에서 최적 해를 찾는 것'에서 '태스크나 환경에서 해를 더 잘 찾는 솔버를 진화시키는 것'으로 바뀝니다.
  • 피드백 관계: 방법이 후보를 생성하고 태스크 평가를 받으며, 평가 결과가 다시 방법의 변이, 선택, 재조합을 이끌어 방법 계층과 해 계층 사이에 지속적인 피드백을 형성합니다.
  • 평가 기준 전환: 방법의 우열은 단일 최적해만이 아니라 교차 태스크, 교차 환경의 일반화, 견고성, 다양성과 계산 비용을 봅니다.
  • 역할 전환: 연구자는 더 이상 고정된 절차만 설계하는 것이 아니라 진화 가능한 방법 공간, 피드백 신호와 선택 메커니즘을 설계합니다.

3. 피드백 폐루프가 왜 중요한가

방법 계층과 해 계층은 두 개의 독립적인 최적화 루프가 아닙니다. 방법 계층이 후보 생성기를 생성하면, 해 계층은 이를 사용하여 구체적 태스크에서 후보를 생성하고 평가를 받습니다. 이러한 평가는 집계나 크레딧 할당을 거쳐 다시 방법 계층으로 돌아가 방법 자체의 변이, 선택, 재조합을 이끕니다. 피드백 신호가 너무 희소하거나 단기 최적해만 보상하면 방법 계층은 단일 태스크에 과적합되기 쉽습니다. 피드백 신호가 교차 태스크 일반화와 다양성을 포함할 때 비로소 방법 계층은 '해를 더 잘 찾는' 메타 전략을 학습할 수 있습니다. 이는 방법 공간 위에 진화 탐색 계층을 하나 더 연 것으로 이해할 수 있지만, 그 평가는 해 계층의 실제 성능과 떼어놓을 수 없습니다.

4. 개념 기반: MetaDE와 AutoPSO

방법 진화는 구호에 머무르지 않습니다. MetaDE는 차분 진화의 전략, 파라미터 심지어 연산자 조합까지 진화 가능한 대상으로 만들고, AutoPSO는 입자 군집의 구조, 파라미터 또는 토폴로지를 자동 탐색에 포함시킵니다. 이들은 '후보를 생성하는 방법'을 최적화 대상에 포함시켜 알고리즘의 자기 진화를 실현한다는 동일한 출발점을 공유합니다. 이 페이지에서는 먼저 통일된 개념 기반을 세우고, 구체적인 아키텍처와 알고리즘 구조 진화는 이후에 전개합니다.

핵심 구분
방법이 고정되어 변하지 않으면 시스템은 여전히 주어진 알고리즘 아래에서 해를 찾는 것에 불과합니다. 방법 계층도 피드백을 받아 업데이트할 때에만 방법 진화에 들어섭니다.