6

MetaDE กับ AutoPSO: สถาปัตยกรรมสองชั้นของการวิวัฒนาการวิธีการ

AI999第6课:系统级持续演化:Genesis 与软件世界的沉淀
00:00

วิวัฒนาการวิธีการ (Meta-Evolution) ยกระดับ "วิธีการที่ใช้สร้างตัวเลือก" ให้กลายเป็นสิ่งที่ถูกปรับให้เหมาะสมเสียเอง: อัลกอริทึมไม่ได้ทำแค่หาคำตอบอีกต่อไป แต่ยังต้องปรับปรุง "วิธีที่ตัวเองใช้หาคำตอบ" ด้วยMetaDE และ AutoPSO เป็นสองตัวอย่างที่นำแนวคิดนี้ไปใช้จริง ทั้งสองใช้โครงร่างเดียวกัน——สถาปัตยกรรมสองชั้นทั้งในและนอก: ชั้นนอกค้นหาปริภูมิอัลกอริทึม ส่วนชั้นในใช้อัลกอริทึมตัวเลือกในการแก้งานเป้าหมาย ผลลัพธ์ของชั้นในถูกส่งกลับเป็นสัญญาณความเหมาะสม (fitness) ให้ชั้นนอก ขับเคลื่อนให้อัลกอริทึมปรับปรุงตัวเองอย่างต่อเนื่อง เกิดเป็นวงปิด

MetaDE กับ AutoPSO: สถาปัตยกรรมสองชั้นของการวิวัฒนาการวิธีการชั้นนอกค้นหาปริภูมิอัลกอริทึม ชั้นในแก้โจทย์เป้าหมาย ผลลัพธ์ของชั้นในถูกส่งกลับเป็นค่าความเหมาะสมสองเส้นทางการนำไปใช้ชั้นนอก: ค้นหาปริภูมิอัลกอริทึมการผสมผสานของการตั้งค่า / องค์ประกอบ / กลยุทธ์ชั้นใน: การแก้และประเมินงานเป้าหมายใช้การตั้งค่าอัลกอริทึมตัวเลือกแก้โจทย์เดียวกันการรันชั้นใน ①การรันชั้นใน ②การรันชั้นใน ③ประเมินซ้ำหลายครั้ง → หาค่าเฉลี่ยทางสถิติรวบรวมผลลัพธ์เป็นสัญญาณความเหมาะสม↑ ส่งกลับชั้นนอกส่งอัลกอริทึมตัวเลือกลงไปผลลัพธ์ย้อนกลับMetaDEวิวัฒนาการระดับการตั้งค่า• ชั้นนอกริวัฒนาการการตั้งค่าของ Differential Evolution• กลยุทธ์การกลายพันธุ์ / อัตราการครอสโอเวอร์ / ตัวคูณสเกล• ปรับตัวอัตโนมัติตามปัญหาและระยะการทำงานชั้นในยังคงใช้ Differential Evolution ในการแก้โจทย์เป้าหมายAutoPSOวิวัฒนาการระดับโครงสร้าง / องค์ประกอบ• มองพารามิเตอร์และกลไกการเรียนรู้เป็นองค์ประกอบที่ผสมผสานได้• ชั้นนอกรวมเอาตัวแปร PSO ที่เหมาะสมขึ้นมาโดยอัตโนมัติ• เปลี่ยน "เลือกอัลกอริทึม" ให้เป็น "ค้นหาโครงสร้างอัลกอริทึม"จากพารามิเตอร์ปรับตัว → กลไกสร้างตัวเองต้นทุน: การประเมินชั้นนอกแต่ละครั้ง ≈ การรันชั้นในหลายครั้ง งบประมาณจึงถูกขยายขึ้นการ权衡: จัดสรรงบประมาณ · ประเมินแบบประมาณ · หยุดก่อนกำหนด · ทำแบบขนาน

นามธรรมทั่วไปของสถาปัตยกรรมสองชั้น

  • ชั้นนอก (การค้นหาปริภูมิอัลกอริทึม): ค้นหาไฮเปอร์พารามิเตอร์ กลยุทธ์ และการผสมผสานองค์ประกอบซึ่งก็คือ "นิยามของอัลกอริทึม" ปริภูมิการค้นหาของมันไม่ใช่ปริภูมิคำตอบ แต่เป็นปริภูมิของการตั้งค่าและโครงสร้างอัลกอริทึม
  • ชั้นใน (การแก้โจทย์เป้าหมาย): ใช้อัลกอริทึมตัวเลือกที่ชั้นนอกส่งลงไปแก้โจทย์จริง ได้ผลลัพธ์ที่วัดได้ เพื่อใช้เป็นเกณฑ์ประเมินอัลกอริทึมตัวเลือกนั้น
  • วงจรสัญญาณ: ผลลัพธ์ของชั้นในถูกรวบรวมเป็นค่าความเหมาะสมส่งกลับไปยังชั้นนอก ชั้นนอกจึงคัดทิ้งการตั้งค่าที่แย่ เก็บและกลายพันธุ์การตั้งค่าที่ดี เมื่อวงปิดเกิดขึ้น การแก้โจทย์และการปรับปรุงวิธีการแก้โจทย์ก็เกิดขึ้นพร้อมกัน

MetaDE: มอบการตั้งค่าของ DE ให้ชั้นนอกริวัฒนาการ

MetaDE ยังคงใช้ Differential Evolution เป็นตัวแก้โจทย์ชั้นใน และมอบการตั้งค่าของ DE เองให้ชั้นนอกริวัฒนาการ: การเลือกกลยุทธ์การกลายพันธุ์ อัตราการครอสโอเวอร์ ตัวคูณสเกล ไม่ใช่ค่าคงที่ตายตัวอีกต่อไป แต่เป็นวัตถุวิวัฒนาการที่ปรับตัวอัตโนมัติตามปัญหาและระยะการปรับให้เหมาะสม มันตอบคำถามว่า "การตั้งค่าชุดนี้ควรตั้งอย่างไรในระยะงานปัจจุบัน" ซึ่งจัดอยู่ในวิวัฒนาการวิธีการระดับการตั้งค่า

AutoPSO: จากการแก้พารามิเตอร์สู่การแก้โครงสร้างอัลกอริทึม

AutoPSO มองพารามิเตอร์หลักและกลไกการเรียนรู้ของ PSO เป็นองค์ประกอบที่ผสมผสานได้——การจับคู่ที่แตกต่างกันของน้ำหนักความเฉื่อย ตัวคูณการเรียนรู้ และกลไกการเรียนรู้แบบรายบุคคลกับแบบกลุ่ม ชั้นนอกรวบรวมและผสมผสานให้เป็นตัวแปร PSO ที่เหมาะกับปัญหาต่างๆ ได้โดยอัตโนมัติ เมื่อเทียบกับการปรับแค่พารามิเตอร์ มันเปลี่ยน "เลือกอัลกอริทึม" ให้เป็น "ค้นหาโครงสร้างอัลกอริทึม" บรรลุการก้าวข้ามจากพารามิเตอร์ปรับตัวไปสู่กลไกสร้างตัวเอง ทั้งสองเสริมกัน: MetaDE เน้นการปรับอัตโนมัติระดับการตั้งค่าและไฮเปอร์พารามิเตอร์ ส่วน AutoPSO เน้นการผสมผสานอัตโนมัติระดับโครงสร้างและองค์ประกอบ ร่วมกันครอบคลุมขอบเขตวิวัฒนาการจากพารามิเตอร์ปรับตัวถึงกลไกสร้างตัวเอง

โครงสร้างต้นทุนและข้อพึ่งพิงทางวิศวกรรม

ต้นทุนสำคัญของการปรับให้เหมาะสมสองชั้นอยู่ที่ผลคูณ: การประเมินอัลกอริทึมตัวเลือกแต่ละตัวที่ชั้นนอกมักต้องรันชั้นในหลายครั้ง (การประเมินซ้ำจากความสุ่ม การตรวจสอบร่วมหลายงาน ฯลฯ) งบประมาณการคำนวณจึงถูกขยายขึ้นอย่างมีนัยสำคัญ จึงจำเป็นต้องทำการจัดสรรงบประมาณ การประเมินแบบประมาณ การหยุดก่อนกำหนดหรือการทำแบบขนาน และการ权衡อื่นๆ ในทางวิศวกรรม การทำงานที่มีประสิทธิภาพต้องอาศัยการทำแบบขนานด้วยเทนเซอร์ การจัดตารางเวลาแบบ Runtime และความสามารถในการผสมผสานอัลกอริทึม มิฉะนั้นขนาดการค้นหาของชั้นนอกจะถูกการประเมินซ้ำของชั้นในถ่วงจนล่ม

การเปลี่ยนมุมมอง
สถาปัตยกรรมนี้เปลี่ยนบทบาทของนักวิจัยจาก "ออกแบบอัลกอริทึมเดียวด้วยมือ" ไปสู่ "ออกแบบปริภูมิและกลไกการประเมินที่อัลกอริทึมสามารถวิวัฒนาการได้": สิ่งที่ส่งมอบไม่ใช่อัลกอริทึมตายตัวอีกต่อไป แต่เป็นชุดปริภูมิการค้นหาและกฎการป้อนกลับที่ทำให้อัลกอริทึมปรับปรุงตัวเองได้อย่างต่อเนื่อง