5

Tư tưởng cốt lõi và bước nhảy vọt của tiến hóa phương pháp

AI999第5课:方法演化:从优化解到优化算法本身
00:00

Các bài trước đã tổ chức quá trình tiến hóa thành tensor có thể tính toán toàn cục, giải quyết vấn đề hiệu quả khi đánh giá lượng lớn ứng viên. Trang này tiến thêm một bước: nếu đối tượng tối ưu không chỉ là đáp án ứng viên, mà còn làphương pháp tạo ra đáp án ứng viên, thì điều gì sẽ xảy ra? Bước nhảy vọt cốt lõi của tiến hóa phương pháp (Meta-Evolution) là biến chính “phương pháp tạo ra lời giải ứng viên” thành đối tượng tối ưu: không chỉ tiến hóa đáp án, mà tiến hóa thuật toán, chiến lược hay toán tử sinh ra và cải thiện đáp án, khiến thuật toán chuyển từ công cụ cố định thành bộ giải liên tục tiến hóa.

Tiến hóa phương pháp: vòng phản hồi hai lớp khép kínĐưa chính phương pháp tạo ra lời giải ứng viên vào đối tượng tối ưu, biến thuật toán từ công cụ cố định thành bộ giải liên tục tiến hóaHọ bài toán / Môi trườngPhân phối đa nhiệmNguồn tín hiệu đánh giáKhả năng khái quát hóa liên nhiệmHai lớp chia sẻ cùng một môi trườngMôi trườngNhiệm vụLớp phương pháp · Tiến hóa lớp ngoàiKhông gian phương pháp khả tiến hóa: lấy chính phương pháp làm biến tối ưuChiến lược đột biếnXác suất lai ghépTổ hợp toán tửSiêu tham sốCập nhật phương pháp: Chọn lọc · Đột biến · Tái tổ hợp (được thúc đẩy bởi phản hồi đánh giá)Lớp lời giải · Giải lớp trongSinh ứng viên trên nhiệm vụ cụ thể và nhận đánh giáSinh lời giải ứng viênĐánh giá nhiệm vụPhản hồi độ thích nghiPhương pháp / Cấu hìnhPhản hồi đánh giá · Phân bổ tín dụngPhân biệt then chốtChỉ lời giải thay đổi → vẫn là tối ưu truyền thốngLớp phương pháp cũng nhận phản hồi và cập nhật → tiến hóa phương pháp

I. Từ “tiến hóa đáp án” đến “tiến hóa phương pháp”

Con đường truyền thống có thể được viết thành một chuỗi đơn tuyến:Bài toán → Thuật toán cố định → Lời giải ứng viên. Nhà nghiên cứu chọn thuật toán hoặc toán tử trước, rồi để thuật toán tìm kiếm trong không gian bài toán, bản thân thuật toán không thay đổi. Tiến hóa phương pháp viết lại chuỗi thành:Họ bài toán/Môi trường → Không gian phương pháp khả tiến hóa → Bộ sinh ứng viên → Đánh giá lời giải ứng viên → Cập nhật phương pháp → Sinh lại. Biến tối ưu mở rộng từ lời giải x sang phương pháp, toán tử, quy tắc siêu heuristic hoặc quá trình sinh ứng viên m. “Phương pháp” ở đây có thể là chiến lược đột biến trong tiến hóa vi phân, trọng số quán tính và cấu trúc liên kết trong bầy đàn hạt, toán tử tìm kiếm cục bộ, hoặc cũng có thể là quy tắc chọn và điều phối thuật toán ở tầng cao hơn.

II. Năm chuyển biến then chốt

  • Mở rộng đối tượng tiến hóa: Từ lời giải, tham số, cấu trúc, mở rộng sang phương pháp, toán tử, quy tắc siêu heuristic hoặc quá trình sinh ứng viên.
  • Tái định nghĩa bài toán: Bài toán tối ưu chuyển từ “tìm lời giải tối ưu dưới thuật toán cho trước” thành “tiến hóa ra bộ giải giỏi tìm lời giải hơn trong nhiệm vụ hoặc môi trường”.
  • Quan hệ phản hồi: Phương pháp sinh ứng viên và nhận đánh giá từ nhiệm vụ, kết quả đánh giá lại thúc đẩy đột biến, chọn lọc và tái tổ hợp của phương pháp, tạo thành phản hồi liên tục giữa lớp phương pháp và lớp lời giải.
  • Chuyển dịch tiêu chí đánh giá: Đánh giá phương pháp không chỉ dựa vào tối ưu đơn lần, mà còn xét khả năng khái quát hóa, độ bền vững, tính đa dạng và chi phí tính toán liên nhiệm, liên môi trường.
  • Chuyển đổi vai trò: Nhà nghiên cứu không chỉ thiết kế quy trình cố định, mà thiết kế không gian phương pháp khả tiến hóa, tín hiệu phản hồi và cơ chế chọn lọc.

III. Vì sao vòng phản hồi khép kín lại then chốt

Lớp phương pháp và lớp lời giải không phải hai vòng tối ưu độc lập. Lớp phương pháp sinh ra một bộ sinh ứng viên, lớp lời giải dùng nó để sinh ứng viên trên nhiệm vụ cụ thể và nhận đánh giá; những đánh giá này sau khi tổng hợp hoặc phân bổ tín dụng sẽ quay về lớp phương pháp, thúc đẩy đột biến, chọn lọc và tái tổ hợp của chính phương pháp. Nếu tín hiệu phản hồi quá thưa thớt hoặc chỉ thưởng cho tối ưu ngắn hạn, lớp phương pháp dễ quá khớp vào một nhiệm vụ đơn lẻ; nếu tín hiệu phản hồi bao gồm khả năng khái quát hóa liên nhiệm và tính đa dạng, lớp phương pháp mới học được siêu chiến lược “giỏi tìm lời giải hơn”. Ở đây có thể hiểu là mở thêm một tầng tìm kiếm tiến hóa trên không gian phương pháp, nhưng việc đánh giá nó không thể tách rời hiệu suất thực tế của lớp lời giải.

IV. Nền tảng khái niệm: MetaDE và AutoPSO

Tiến hóa phương pháp không chỉ dừng ở khẩu hiệu. MetaDE biến chiến lược, tham số thậm chí tổ hợp toán tử của tiến hóa vi phân thành đối tượng khả tiến hóa; AutoPSO đưa cấu trúc, tham số hoặc cấu trúc liên kết của bầy đàn hạt vào tìm kiếm tự động. Chúng chia sẻ cùng một điểm xuất phát: đưa “phương pháp tạo ra ứng viên” vào đối tượng tối ưu, thực hiện sự tự tiến hóa của thuật toán. Trang này trước tiên thiết lập nền tảng khái niệm thống nhất, kiến trúc cụ thể và tiến hóa cấu trúc thuật toán sẽ được triển khai ở phần sau.

Phân biệt then chốt
Nếu phương pháp cố định không đổi, hệ thống vẫn chỉ là tìm lời giải dưới thuật toán cho trước; chỉ khi lớp phương pháp cũng nhận phản hồi và cập nhật thì mới bước vào tiến hóa phương pháp.