6

Cơ chế tiến hóa hai tầng trong-ngoài và thích ứng

AI999第5课:方法演化:从优化解到优化算法本身
00:00

Tiến hóa hai tầng trong-ngoàitách “giải quyết nhiệm vụ cụ thể” và “cải tiến phương pháp giải” thành hai vòng tiến hóa tương tác lẫn nhau:Tầng tronghướng đến giải nhiệm vụ và tạo ra hiệu suất vận hành,Tầng ngoàidựa trên những hiệu suất này để tiến hóa cấu hình và chiến lược của thuật toán tầng trong, từ đó hình thành cơ chế cải tiến thuật toán có khả năng thích ứng. Đây không phải là việc ghép nối đơn thuần hai thuật toán, mà là thêm một tầng điều khiển siêu cấp có thể tiến hóa lên trên tầng giải nhiệm vụ, giúp hệ thống chuyển từ “con người thiết lập thuật toán” sang “thuật toán tự thích ứng với nhiệm vụ”.

Tiến hóa hai tầng trong-ngoài: vòng phản hồi kín giữa giải nhiệm vụ và tiến hóa phương phápTầng trong: tầng giải nhiệm vụThực thi song song nhiều nhiệm vụ cụ thể, tạo ra lời giải ứng viên và hiệu suất vận hànhNhiệm vụ T1Nhiệm vụ T2Nhiệm vụ T3Nhiệm vụ TnĐầu ra: lời giải ứng viên · giá trị mục tiêu f · hiệu suất vận hànhThời gian tài nguyên · số bước hội tụ · tỷ lệ thành côngLàm căn cứ đánh giá độ thích nghi của tầng ngoàiThực thi theo lô dạng tensor hóaĐột biến, đánh giá, cập nhật trạng thái đi vào đồ thị tính toánTrách nhiệm tầng trong: giải xong bài toánXuất ra lời giải và hiệu suất vận hành để tầng ngoài đánh giáTầng ngoài: tầng tiến hóa phương phápKhông trực tiếp giải nhiệm vụ gốc, mà tiến hóa cấu hình và chiến lược của tầng trongCơ chế thích ứng: liên tục điều chỉnh chiến lược tầng trong theo sự thay đổi của nhiệm vụ và môi trườngDùng tiến hóa để cải tiến tiến hóaĐánh giáChọn lọcĐột biếnCập nhậtTrách nhiệm tầng ngoài: làm phương pháp giải tốt hơnThích ứng: liên tục điều chỉnh chiến lược tầng trong theo nhiệm vụ và môi trườngHiệu suất vận hành tầng trongTổng hợp thành tín hiệu độ thích nghiCập nhật ngượcCấu hình và chiến lược tầng trongSong song GPU: chạy theo lô các nhiệm vụ tầng trong, cung cấp phản hồi thống kê đầy đủ hơn cho tầng ngoài, giảm chi phí chờ đợi tìm kiếmMục tiêu học tập: hiểu sự phối hợp giữa giải tầng trong và tối ưu chiến lược tầng ngoài

Phân công trách nhiệm giữa tầng trong và tầng ngoài

  • Trách nhiệm tầng trong: giải quyết nhiệm vụ thực tế, tạo ra lời giải ứng viên, giá trị mục tiêu và dữ liệu hiệu suất vận hành. Nó chịu trách nhiệm “giải xong bài toán”.
  • Trách nhiệm tầng ngoài: không trực tiếp giải nhiệm vụ gốc, mà tiến hóa cấu hình, chiến lược và tham số của thuật toán tầng trong. Nó chịu trách nhiệm “làm phương pháp giải tốt hơn”.
  • Vòng phản hồi kín: kết quả đánh giá của các nhiệm vụ tầng trong được tổng hợp thành tín hiệu độ thích nghi của tầng ngoài, dùng để chọn lọc, đột biến và cập nhật cấu hình tầng trong tốt hơn.
  • Cơ chế thích ứng: tầng ngoài liên tục điều chỉnh chiến lược tầng trong theo sự thay đổi của nhiệm vụ và môi trường.
  • Hỗ trợ song song: GPU có thể chạy song song lượng lớn nhiệm vụ tầng trong, cung cấp phản hồi thống kê đầy đủ hơn cho tiến hóa tầng ngoài và giảm chi phí chờ đợi tìm kiếm.

MetaDE: dùng tiến hóa để cải tiến tiến hóa

Lấy MetaDE làm ví dụ, DE tầng trong chịu trách nhiệm các nhiệm vụ tối ưu cụ thể, thuật toán tiến hóa tầng ngoài dựa trên hiệu suất vận hành của tầng trong để chọn lọc và điều chỉnh cấu hình, chiến lược của DE; kết quả của nhiều nhiệm vụ tầng trong lại hướng dẫn ngược lại cho việc chọn lọc cấu hình tầng ngoài, tạo thành vòng kín hai tầng “dùng tiến hóa để cải tiến tiến hóa”.

Phân biệt then chốt
Tầng trong xuất ra “lời giải”, tầng ngoài xuất ra “phương pháp tốt hơn để tạo ra lời giải”. Độ thích nghi của tầng ngoài không phải là giá trị tối ưu của nhiệm vụ gốc, mà là đánh giá hiệu suất của một cấu hình tầng trong trên các nhiệm vụ theo lô.

Mục tiêu học tập

Nắm vững mối quan hệ phối hợp giữa giải nhiệm vụ tầng trong và tối ưu chiến lược tầng ngoài, hiểu rằng tiến hóa phương pháp là việc thêm một tầng điều khiển siêu cấp có thể tiến hóa lên trên tầng trong, và có thể trình bày cách song song GPU cung cấp phản hồi thống kê đáng tin cậy hơn cho tầng ngoài.