5

MetaDE: Dùng thuật toán tiến hóa để cải tiến thuật toán tiến hóa

AI999第7课:AI Native 科研范式与 EvoX 实战切入
00:00

Quy trình tối ưu cổ điển dồn toàn bộ sự chú ý vào không gian nghiệm: cố định một bộ cấu hình Tiến hóa vi phân (DE) — chiến lược đột biến, tỷ lệ lai ghép CR, hệ số co giãn F, kích thước quần thể NP — rồi lặp đi lặp lại để tiến gần nghiệm tối ưu của bài toán. Nhưng có một câu hỏi luôn treo lơ lửng:Chính bộ cấu hình này do ai chọn?Câu trả lời của MetaDE là coi "phương pháp sinh ra các phương án ứng viên" cũng là đối tượng được tiến hóa: bọc thêm một tầng thuật toán tiến hóa ở bên ngoài, chuyên tìm kiếm cấu hình thuật toán tốt hơn, từ đó hình thành vòng lặp tối ưu hai tầng "dùng thuật toán tiến hóa để cải tiến thuật toán tiến hóa".

MetaDE: Dùng thuật toán tiến hóa để cải tiến thuật toán tiến hóaĐối tượng tiến hóa: chính cấu hình thuật toánTầng ngoài: Tìm kiếm cấu hình thuật toán tiến hóa (tầng meta)Nhiệm vụ: Mã hóa cấu hình → Đánh giá độ thích nghi → Sinh thế hệ kế tiếpCá thể₁: Chiến lược đột biếnDE/rand/1Cá thể₂: Tỷ lệ lai ghépCR = 0.7Cá thể₃: Kích thước quần thểNP = 60Cá thể₄: Hệ số co giãnF = 0.5Cập nhật tầng ngoài: Chọn lọc · Tái tổ hợp · Đột biến → Sinh cấu hình thế hệ kế tiếpGửi cấu hình xuốngTruyền ngược hiệu năngHai tầng chia sẻ cùng một tín hiệu độ thích nghiHiệu năng tác vụTầng trong: Chạy song song tiến hóa vi phân trên các tác vụ thực tếNhiệm vụ: Nhận cấu hình → Giải hoàn chỉnh → Truyền ngược hiệu năngTác vụ₁: DE giải hoàn chỉnhĐộ thích nghi f₁ = 0.91Tác vụ₂: DE giải hoàn chỉnhĐộ thích nghi f₂ = 0.87Tác vụ₃: DE giải hoàn chỉnhĐộ thích nghi f₃ = 0.94GPU song song: Đánh giá đồng thời nhiều cấu hình, rút ngắn chu kỳ đánh giá của tối ưu meta

Tầng trong và tầng ngoài: Phân chia nhiệm vụ như thế nào

  • Tầng trong: Nhận một bộ cấu hình DE cụ thể, chạy một lần giải hoàn chỉnh trên tác vụ thực tế, sinh ra nghiệm ứng viên và trả về một đánh giá hiệu năng có thể so sánh được.
  • Tầng ngoài: Mã hóa cấu hình, siêu tham số hoặc tổ hợp chiến lược của DE thành cá thể, lấy hiệu năng tác vụ làm độ thích nghi, dùng thuật toán tiến hóa (chọn lọc, tái tổ hợp, đột biến) để cập nhật cấu hình thế hệ kế tiếp.

Chuyển dịch mục tiêu: Từ "tìm nghiệm" sang "tìm phương pháp biết cách tìm nghiệm"

MetaDE thay đổi không phải cách hiện thực bộ tối ưu, mà là cấp độ mục tiêu của việc tối ưu. Đầu ra của DE truyền thống là một vector nghiệm; đầu ra của MetaDE là một bộ cấu hình thuật toán có thể ổn định sinh ra nghiệm tốt hơn trên loại tác vụ này. Nói cách khác, đối tượng tìm kiếm được nâng từ "đáp án" lên "cỗ máy sản xuất đáp án". Điều này cho phép kết quả của một lần tìm kiếm ở tầng ngoài có thể chuyển giao và tái sử dụng cho các thể hiện khác cùng họ.

Vòng lặp phản hồi và tiền đề kỹ thuật

Toàn bộ hệ thống được xâu chuỗi bằng một vòng lặp khép kín: tầng ngoài gửi cấu hình xuống → tầng trong thực thi giải → truyền ngược hiệu năng → tầng ngoài dựa vào đó cập nhật cấu hình thế hệ kế tiếp. Cần lưu ý rằng, để một cá thể ở tầng ngoài có được độ thích nghi, buộc phải trả giá bằng một lần (thường là nhiều lần chạy song song) chạy hoàn chỉnh tầng trong, do đó quản lý chi phí đánh giá và điều phối song song là cốt lõi của thiết kế hệ thống. Chính việc GPU có thể chạy đồng thời một lượng lớn tác vụ tầng trong đã khiến kiểu tối ưu meta "đắt đỏ về đánh giá" này trở nên khả thi về mặt kỹ thuật.

Nắm bắt bản chất trong một câu
Tầng trong chịu trách nhiệm "tính ra cái gì", tầng ngoài chịu trách nhiệm "tính thế nào mới tốt hơn". Hai tầng chia sẻ cùng một tín hiệu độ thích nghi — hiệu năng tác vụ, và đây cũng chính là lý do chúng có thể tạo thành vòng lặp khép kín.