Evolusi Struktur Algoritma: AutoPSO dan EvoGO

Pada metode seperti MetaDE, evolusi terjadi dilapisan parameter: algoritma lapisan dalam menyelesaikan tugas nyata, sedangkan algoritma lapisan luar menyesuaikan konfigurasi dan strategi algoritma lapisan dalam. Namun AutoPSO dan EvoGO mengangkat objek yang dievolusikan satu tingkat lebih tinggi—yaitu langsung mengevolusikanstruktur algoritma itu sendiri: bagaimana komponen dikombinasikan, bagaimana kandidat dihasilkan, dan bagaimana aturan pembaruan disusun.

Kriteria: apa sebenarnya yang dicari lapisan luar

Untuk membedakan "penyetelan parameter" dan "perubahan struktur", jangan hanya melihat nama metode, tetapi lihatlahtingkat ruang pencarian lapisan luar. Ruang pencarian lapisan luar pada metode seperti MetaDE adalah konfigurasi dan strategi algoritma lapisan dalam (nilai faktor pembelajaran, probabilitas mutasi, tekanan seleksi, dan sebagainya); sedangkan ruang pencarian lapisan luar AutoPSO / EvoGO adalah struktur algoritma—komponen mana yang ikut dikombinasikan, seperti apa alur pembangkitan kandidat, dan bagaimana keadaan diperbarui.

lapisan parameter: struktur tetap, hanya menyetel nilai. Jangkauannya adalah "intensitas" perilaku.
Lapisan struktur: komponen dan cara koneksi dapat diubah. Jangkauannya adalah "bentuk" perilaku.

AutoPSO: Memecah PSO klasik menjadi kumpulan komponen

Rumus pembaruan kecepatan—posisi PSO klasik bersifat tetap. AutoPSO menguraikan proses ini menjadi komponen yang dapat dikombinasikan: suku kecepatan, topologi ketetanggaan, suku perturbasi, strategi restart, dan sebagainya, lalu evolusi lapisan luar memilih dan merakitnya menjadi generator kandidat baru. Metode ini tidak lagi menggunakan struktur pembaruan klasik yang tetap, melainkan menjadikan "struktur pembaruan" itu sendiri sebagai variabel yang dapat dicari. Menyetel faktor pembelajaran hanya mengubah intensitas perilaku, sedangkan mengubah kombinasi komponenlah yang mengubah bentuk perilaku.

EvoGO: Membiarkan umpan balik historis menentukan ke mana struktur diubah

EvoGO menekankan pada penyambungan umpan balik historis ke jalur evolusi struktur: lintasan pencarian dan catatan kinerja sebelumnya tidak lagi hanya digunakan untuk "memilih solusi", tetapi untuk menentukan "ke mana struktur akan diubah selanjutnya". Umpan balik karenanya berubah dari penyaring hasil menjadi kemudi pembaruan struktur—yang diubahnya adalah arah kandidat struktur pada putaran berikutnya, bukan sekadar memilih satu hasil baik dari sekumpulan kandidat yang sudah selesai.

Kerangka dua lapis yang dibagi bersama dan makna rekayasanya

Keduanya berbagi kerangka yang sama: algoritma lapisan dalam berjalan pada tugas nyata, sedangkan lapisan luar mengevolusikan struktur berdasarkan kinerja lapisan dalam. Prasyarat utamanya adalah kepadatan sampel—GPU menjalankan sejumlah besar tugas lapisan dalam secara batch paralel, sehingga sampel perbandingan "struktur—kinerja" cukup padat, dan pemilihan lapisan luar baru memiliki makna statistik, tidak lagi dipengaruhi oleh derau dari satu kali eksekusi.

Makna rekayasa

Algoritma berubah dari "pilihan prior sekali pakai" menjadi "objek yang dapat terus diperbaiki". Harganya adalah: evolusi lapisan struktur secara alami membawa ruang pencarian yang lebih besar dan biaya evaluasi yang lebih tinggi, sehingga kelayakannya bergantung pada fondasi paralel yang ter-tensorisasi—inilah pula dorongan langsung di balik topik paralelisme GPU pada bagian berikutnya.

Hubungan Evolusi Struktur AutoPSO dan EvoGO

Diagram ini membandingkan evolusi lapisan parameter dan lapisan struktur: lapisan luar MetaDE mencari nilai konfigurasi seperti faktor pembelajaran dan probabilitas mutasi, sementara struktur algoritma tetap; lapisan luar AutoPSO dan EvoGO mencari bagaimana komponen dikombinasikan serta bagaimana pembangkitan kandidat dan aturan pembaruan disusun. AutoPSO memecah pembaruan PSO menjadi kumpulan komponen seperti suku kecepatan, topologi ketetanggaan, perturbasi, dan restart untuk dipilih dan dirakit oleh lapisan luar, sedangkan EvoGO menggunakan umpan balik lintasan historis untuk menentukan ke mana struktur akan diubah selanjutnya.

Pertanyaan 1

Apa dasar paling kunci untuk menentukan apakah suatu metode termasuk "mengubah parameter" atau "mengubah struktur"?

Apakah kecepatan konvergensi tugas lapisan dalam lebih cepat

Apakah ruang pencarian lapisan luar adalah konfigurasi dan strategi algoritma lapisan dalam, atau struktur algoritma itu sendiri

Apakah ukuran populasi melebihi seribu

Apakah menggunakan akselerasi GPU

Pertanyaan 2

Apa inti pendekatan AutoPSO?

Memecah optimasi kawanan partikel menjadi kumpulan komponen yang dapat dikombinasikan, yang dipilih dan dirakit oleh evolusi lapisan luar menjadi generator kandidat baru

Menggantikan sepenuhnya pembaruan kecepatan—posisi dengan penurunan gradien

Menyetel faktor pembelajaran secara presisi dari 2.0 menjadi 1.494

Memperbesar ukuran populasi beberapa kali lipat untuk mencakup lebih banyak solusi

Pertanyaan 3

Apa perubahan penggunaan umpan balik historis dalam EvoGO dibandingkan pendekatan tradisional?

Dari memilih induk menjadi menetapkan kondisi berhenti

Dari mengevaluasi fitness menjadi menginisialisasi populasi

Dari hanya digunakan untuk "memilih solusi" menjadi digunakan untuk menentukan "ke mana struktur akan diubah selanjutnya"

Dari pencatatan log menjadi visualisasi grafik

Pertanyaan 4

Mengapa kerangka dua lapis AutoPSO / EvoGO memerlukan GPU untuk menjalankan sejumlah besar tugas lapisan dalam secara batch paralel?

Untuk mengurangi jumlah komponen yang dapat dikombinasikan

Agar algoritma lapisan dalam tidak perlu lagi dievaluasi

Agar sampel perbandingan "struktur—kinerja" cukup padat, sehingga pemilihan lapisan luar memiliki makna statistik

Karena harga per unit daya komputasi GPU lebih murah daripada CPU

Pertanyaan 5

Perubahan manakah berikut ini yang berada di lapisan yang tidak dapat dijangkau oleh penyetelan parameter?

Menyetel bobot inersia dari 0.9 menjadi 0.7

Mengombinasikan kembali suku kecepatan, topologi ketetanggaan, suku perturbasi, dan strategi restart menjadi generator kandidat baru

Menyetel ukuran populasi dari 50 menjadi 100

Menyetel jumlah iterasi maksimum dari 500 menjadi 1000

Studi Kasus: Meningkatkan Solver PSO Berstruktur Tetap menjadi Sistem yang Strukturnya Dapat Berevolusi

Baca skenario, jawab pertanyaan, dan berikan penjelasan desain yang dapat diterapkan.

Sebuah tim telah memiliki solver optimasi kawanan partikel berstruktur tetap untuk tugas optimasi rute logistik, yang saat ini dievaluasi secara serial di CPU. Tim berencana meningkatkannya menjadi sistem yang "strukturnya dapat berevolusi": lapisan luar bertugas mengubah struktur algoritma, lapisan dalam bertugas menyelesaikan masalah pada instance jaringan jalan nyata, dan mereka berharap dapat memasukkan catatan pencarian historis ke dalam keputusan lapisan luar. Sumber daya yang tersedia adalah satu server yang dilengkapi beberapa GPU.

1. Jelaskan: bagaimana menentukan bahwa peningkatan ini benar-benar telah melampaui dari "mengubah parameter" ke "mengubah struktur"? Berikan kriteria yang dapat dioperasionalkan.

Jawaban:
Kriterianya adalah dengan melihat tingkat ruang pencarian lapisan luar. Jika lapisan luar hanya menyesuaikan konfigurasi numerik seperti bobot inersia, faktor pembelajaran, ukuran populasi, dan jumlah iterasi, maka seberapa pun besar rentang nilainya, itu tetap berada di lapisan parameter, dan yang berubah hanyalah intensitas perilaku. Hanya ketika lapisan luar mampu mengubah kombinasi komponen dan cara pembangkitan kandidat—misalnya memilih kembali dan merakit suku kecepatan, topologi ketetanggaan, suku perturbasi, dan strategi restart menjadi generator kandidat baru, sehingga bentuk perilaku itu sendiri berubah—baru benar-benar melampaui ke lapisan struktur. Cara pengujian yang dapat dioperasionalkan: bekukan semua hiperparameter numerik tanpa perubahan, dan hanya izinkan lapisan luar mengubah kombinasi komponen; jika perilaku pencarian sistem tetap dapat berubah secara mendasar, maka peningkatan tersebut telah mencapai lapisan struktur.

2. Jika ingin mereplikasi gagasan EvoGO, bagaimana cara membuat lintasan pencarian historis masuk ke dalam keputusan lapisan luar? Berikan satu poin desain yang konkret, dan jelaskan perbedaannya dengan "hanya digunakan untuk memilih solusi".

Jawaban:
Poin desain: susun catatan eksekusi lapisan dalam setelah setiap instansiasi struktur menjadi fitur umpan balik yang terstruktur, termasuk kombinasi komponen yang digunakan, lintasan konvergensi, bentuk kurva fitness, pola kegagalan atau stagnasi, dan sebagainya; lalu biarkan fitur-fitur ini secara langsung menggerakkan aturan pembaruan struktur lapisan luar, misalnya umpan balik menentukan "komponen mana yang diprioritaskan untuk diubah selanjutnya, koneksi mana yang ditambah atau dihapus", bukan sekadar mengurutkan semua hasil historis lalu mengambil yang terbaik. Perbedaannya dengan "hanya digunakan untuk memilih solusi" terletak pada arah kerjanya: ketika hanya digunakan untuk memilih solusi, umpan balik adalah penyaring hasil yang bersifat setelah kejadian, yang hanya memengaruhi kandidat mana yang telah selesai dipilih pada akhirnya; dalam penggunaan gaya EvoGO, umpan balik adalah pengendali arah yang bersifat sebelum kejadian, yang secara langsung memengaruhi ke mana kandidat struktur pada putaran berikutnya diubah. Selain itu, karena ruang pencarian lapisan struktur lebih besar dan biaya evaluasinya lebih tinggi, desain ini harus disertai dengan GPU yang menjalankan sejumlah besar tugas lapisan dalam secara batch paralel, agar dapat mengumpulkan sampel perbandingan struktur—kinerja yang cukup padat, sehingga pemilihan lapisan luar memiliki makna statistik.