Metode Inti Komputasi Tensor Batch

Dalam fondasi tensorisasi EvoX,komputasi tensor batchberada di lapisan ekspresi algoritma: ia memetakan kandidat, evaluasi, dan status dalam siklus evolusi secara seragam menjaditensor dengan dimensi batch, lalu diserahkan ke operator batch yang ramah GPU dan grafik komputasi terkompilasi untuk dieksekusi. Tujuannya sangat jelas—mengubah "evolusi serial per individu" menjadi "evolusi paralel seluruh populasi", sehingga daya komputasi benar-benar bekerja pada pencarian itu sendiri, bukan terbuang pada penjadwalan dan peluncuran.

I. Merepresentasikan Proses Evolusi sebagai Tensor

Dengan menetapkan dimensi batch N sebagai jumlah kandidat (individu), maka tiga elemen dalam evolusi dapat langsung dituangkan menjadi tensor:

Tensor kandidat: populasi X diorganisasi sebagai [N × D], D adalah jumlah variabel keputusan dari satu kandidat.
Tensor tujuan: tujuan dan kendala F diorganisasi sebagai [N × M], M adalah jumlah item tujuan/kendala; dalam kasus multi-tujuan, setiap tujuan adalah kolom berbeda dari F.
Besaran status: nomor generasi, nilai optimal saat ini, ukuran langkah, dan sebagainya dipelihara dengan buffer skalar atau tensor kecil, bukan dicatat per individu menggunakan objek Python.

Dengan demikian, persilangan, mutasi, seleksi, dan evaluasi semuanya diproses secara batch sepanjang dimensi N, dan tidak ada lagi percabangan maupun alur kontrol per individu dalam siklus evolusi.

II. Operator Batch: dari N Panggilan Kandidat Tunggal menjadi Satu Operasi Batch

Tiga ekspresi minimal yang dapat dibandingkan menggambarkan bentuk dasar operator batch:

Mutasi: X′ = X + σ·randn(X), seluruh kandidat dalam batch masing-masing mendapatkan perturbasi acak dalam satu operasi batch, σ mengontrol kekuatan perturbasi.
Seleksi: idx = topk(F, k), memilih indeks k kandidat teratas sekaligus dari nilai fitness N kandidat.
Evaluasi: Y = f_θ(X), menggantikan N panggilan kandidat tunggal dengan satu forward batch atau simulasi batch.

Yang kunci bukanlah operator tertentu, melainkan bahwa semua kandidat berbagi grafik operasi tensor yang sama: satu panggilan batch dapat memangkas biaya interpreter dan biaya peluncuran kernel, sehingga daya komputasi GPU/multi-core benar-benar bekerja pada pencarian evolusioner. Penanganan kendala dan pelanggaran batas juga dapat dilakukan dengan tensor mask dalam operasi batch yang sama, tanpa perlu bercabang khusus untuk kandidat tertentu.

III. Optimasi Grafik Komputasi dan Metrik Throughput

Menuliskan evolusi multi-generasi sebagai grafik aliran data yang dapat dikompilasi dapat lebih jauh mengoptimalkan performa:Fusi operatormengurangi jumlah peluncuran kernel,Paralelisme dalam batchmembuat semua kandidat dieksekusi bersamaan,Eksekusi asinkronmembuat komputasi dan transfer data saling tumpang tindih,Penggunaan ulang memorimengurangi alokasi tensor perantara. Sejalan dengan itu, metrik performa juga harus beralih dari "latensi per langkah" kekandidat/detik atau generasi/detikdalam hal throughput—eksekusi batch memproses seluruh kandidat dalam satu panggilan, dan hanya throughput keseluruhan yang benar-benar mencerminkan efisiensi pencarian.

Kesalahpahaman Umum

Jangan membungkus operator batch di dalam loop per individu, karena itu sama saja memasukkan kembali biaya interpreter dan biaya peluncuran kernel, dan dimensi batch pun kehilangan makna paralelnya. Kriteria penilaiannya sederhana: dalam satu langkah evolusi, penjadwalan hanya boleh ada di tingkat "batch" dan tidak ada di tingkat "individu".

Peta Metode Inti Komputasi Tensor Batch

Peta ini merepresentasikan proses evolusi sebagai tensor dengan dimensi batch: populasi X adalah N×D, tujuan dan kendala F adalah N×M, persilangan, mutasi, seleksi, dan evaluasi semuanya diproses secara batch sepanjang dimensi N. Mutasi, seleksi topk, dan evaluasi forward batch hanya memerlukan satu panggilan batch, dan metrik performa pun beralih dari latensi per langkah ke throughput kandidat/detik.

Pertanyaan 1

Jika populasi berisi N kandidat, setiap kandidat memiliki D variabel keputusan, dan terdapat M item tujuan, berapakah bentuk tensor populasi X dan tensor tujuan F?

X adalah [N × D], F adalah [N × M]

X adalah [D × N], F adalah [M × N]

X adalah [N × M], F adalah [D × M]

X adalah [N × N], F adalah [M × M]

Pertanyaan 2

Ketika loop Python per individu ditulis ulang menjadi operasi tensor batch, dari manakah manfaat performa yang paling langsung berasal?

Menghilangkan biaya interpreter dan biaya peluncuran kernel per kandidat

Mengurangi kompleksitas komputasi dari fungsi tujuan itu sendiri

Meningkatkan presisi numerik dari evaluasi satu kandidat

Mengurangi jumlah total kandidat yang perlu dievaluasi

Pertanyaan 3

Operator mutasi dituliskan sebagai X′ = X + σ·randn(X), apa arti yang benar?

σ harus menurun hingga nol seiring bertambahnya generasi, jika tidak evolusi tidak akan konvergen

Dalam satu operasi batch, setiap kandidat dalam batch ditambahkan perturbasi acak secara individual, σ mengontrol kekuatan perturbasi

Setiap kandidat harus menggunakan angka acak yang persis sama untuk menjamin keadilan

Ekspresi ini hanya berlaku untuk satu kandidat dan tidak dapat diproses secara batch

Pertanyaan 4

Apa makna semantik dari operator seleksi idx = topk(F, k) dalam evolusi tensorisasi?

Memampatkan jumlah kandidat menjadi k lalu menginisialisasi ulang populasi secara acak

Memilih k variabel keputusan teratas secara independen untuk setiap kandidat

Mengambil k item teratas sepanjang dimensi tujuan M sebagai tujuan yang dipertahankan

Memilih indeks k kandidat teratas sekaligus dari nilai fitness N kandidat

Pertanyaan 5

Evolusi tensorisasi mengalihkan metrik performa dari "latensi per langkah" ke "kandidat/detik (atau generasi/detik)". Apa penjelasan yang paling masuk akal?

Karena metrik latensi tidak dapat diukur pada GPU

Throughput dan latensi identik secara numerik, hanya berganti satuan

Eksekusi batch memproses seluruh kandidat dalam satu panggilan, dan hanya throughput keseluruhan yang mencerminkan efisiensi pencarian

Latensi per langkah tidak lagi memiliki nilai referensi

Studi Kasus: Memigrasikan Siklus Evolusi per Individu ke Eksekusi Tensor Batch

Bacalah skenario berikut dan jawab pertanyaan di bawah ini.

Sebuah tim menggunakan EvoX untuk mengoptimalkan airfoil superkritis, dengan kebutuhan untuk menyeimbangkan koefisien gaya angkat buffet kritis dan rasio gaya angkat terhadap gaya hambat saat jelajah secara bersamaan. Implementasi yang ada memanggil simulasi presisi tinggi per individu, sehingga pemanfaatan GPU sangat rendah dan hanya mampu memajukan sedikit generasi dalam sehari penuh. Tim berencana bermigrasi ke komputasi tensor batch: populasi dicatat sebagai X:[N × D], tujuan dicatat sebagai F:[N × M], evaluasi diberikan secara batch oleh model surrogate fθ, dan evolusi multi-generasi direncanakan dikompilasi menjadi satu grafik aliran data yang dapat dieksekusi.

1. Jelaskan bagaimana mengorganisasi kandidat, tujuan, dan status menjadi tensor, serta membuat mutasi, persilangan, seleksi, dan evaluasi semuanya diproses secara batch sepanjang dimensi batch N?

Jawaban:
Gunakan dimensi batch N untuk menampung kandidat: X:[N × D] diinisialisasi secara acak, D adalah jumlah parameter airfoil; F:[N × M] diisi sekaligus oleh evaluasi batch Y = fθ(X), M adalah jumlah item tujuan seperti gaya angkat dan gaya hambat; besaran status seperti nomor generasi dan nilai optimal saat ini dipelihara dengan buffer skalar atau tensor kecil. Mutasi dituliskan sebagai X′ = X + σ·randn(X), persilangan melakukan rekombinasi berpasangan secara batch dan menangani batas dengan mask, seleksi menggunakan idx = topk(F, k) untuk mendapatkan indeks kandidat yang dipertahankan sekaligus. Intinya adalah menghilangkan alur kontrol Python per individu, sehingga semua kandidat berbagi grafik operasi tensor yang sama, dengan dimensi N selalu menjadi dimensi batch terluar.

2. Untuk meningkatkan throughput, optimasi apa saja yang dapat dilakukan pada grafik komputasi? Bagaimana pula pertimbangannya ketika memori GPU tidak mencukupi?

Jawaban:
Ada empat jenis optimasi yang dapat dilakukan: fusi operator mengurangi jumlah peluncuran kernel; paralelisme dalam batch membuat semua kandidat dieksekusi bersamaan; eksekusi asinkron membuat komputasi dan transfer data tumpang tindih; penggunaan ulang memori mengurangi alokasi tensor perantara. Metrik pun beralih dari latensi per langkah ke kandidat/detik atau generasi/detik, karena satu panggilan batch menangani seluruh kandidat. Ketika memori GPU tidak mencukupi, batch dapat dipecah menjadi beberapa bagian yang dieksekusi berurutan (pemotongan/pemrosesan mini-batch) atau presisi numerik diturunkan, dan masa hidup tensor perantara juga dapat dipersingkat; namun harus dipastikan semua kandidat dalam generasi yang sama menggunakan tolok ukur evaluasi yang konsisten, agar kandidat tidak kehilangan perbandingan yang adil akibat pemecahan batch.