1

ภูมิหลังและแรงจูงใจหลักของวิวัฒนาการของวิธีการ

AI999第5课:方法演化:从优化解到优化算法本身
00:00

บนฐานการประมวลผลสมัยใหม่ของ EvoX การทำขนานแบบเทนเซอร์และ Runtime แบบรวมศูนย์ได้ขนาดของพลังประมวลผลคอขวดในระดับนี้ได้ถูกเปิดออกอย่างมาก ประชากร ผลการประเมิน และสถานะของอัลกอริทึมสามารถเข้าสู่ GPU อุปกรณ์เร่งความเร็ว หรือคลัสเตอร์แบบกระจายเพื่อประมวลผลได้ทั้งหมด การประเมินตัวเลือกนับหมื่นครั้งไม่จำเป็นต้องประมวลผลทีละรายการแบบอนุกรมอีกต่อไป เมื่อพลังประมวลผลถูกเปิดออกแล้ว จุดอ่อนที่จำกัดประสิทธิผลของวิวัฒนาการก็ได้ย้ายไปอยู่ที่จุดอื่น นั่นคือ——วิธีการสร้างคำตอบ候选นั้นเอง ยังคงถูกกำหนดไว้ล่วงหน้าโดยมนุษย์ และคงที่ตลอดการทำงาน。

ขอบเขตของการปรับให้เหมาะที่สุดแบบดั้งเดิม: รับผิดชอบเพียงการค้นหาคำตอบ ไม่มีส่วนร่วมในการปรับปรุงการค้นหา

อัลกอริทึมการปรับให้เหมาะที่สุดแบบดั้งเดิมเก่งมากในการค้นหาคำตอบภายในพื้นที่ค้นหาที่กำหนด เมื่อกำหนดกลยุทธ์การกลายพันธุ์ ชุดพารามิเตอร์ และโครงสร้างเพื่อนบ้าน มันก็จะสร้างคำตอบ候选 ประเมิน และเลือกซ้ำไปมา ปัญหาอยู่ที่ว่า กลไกการสร้างตัวเลือกนี้เป็นจากภายนอกค่าคงที่ที่ออกแบบไว้แล้ว อัลกอริทึมจะไม่เปลี่ยนแปลงมันตลอดกระบวนการทำงาน กล่าวอีกนัยหนึ่ง สิ่งที่ถูกค้นหามีเพียง "คำตอบ" แต่ "วิธีการสร้างคำตอบ" ไม่ได้ถูกค้นหา

  • กลยุทธ์การค้นหา พารามิเตอร์ หรือกลไกการสร้างตัวเลือกถูกกำหนดไว้ล่วงหน้าโดยมนุษย์ และคงที่ตลอดการทำงาน
  • เมื่อวิธีการสร้างตัวเลือกถูกกำหนดตายตัว ระบบก็ทำได้เพียงทำซ้ำรูปแบบเดิม ยากที่จะขยายตัวแบบปรับตัวตามปัญหา สภาพแวดล้อม และผลตอบกลับ
  • แม้อัลกอริทึมจะค้นหาคำตอบได้ แต่ตัวมันเองไม่ได้มีส่วนร่วมในการปรับปรุงกระบวนการค้นหา
การปรับให้เหมาะที่สุดแบบชั้นเดียวดั้งเดิมอัลกอริทึมถูกกำหนดล่วงหน้าและตรึงไว้โดยมนุษย์กำหนดล่วงหน้าแบบคงที่อัลกอริทึม กลยุทธ์ และพารามิเตอร์กำหนดไว้ล่วงหน้าโดยมนุษย์ คงที่ไม่เปลี่ยนแปลงตลอดการทำงานสร้างคำตอบ候选ประเมินและคัดเลือกวิธีการค้นหาเป็นค่าคงที่จากภายนอกอัลกอริทึมเองไม่มีส่วนร่วมในการปรับปรุงการค้นหาเลื่อนระดับขึ้นวิวัฒนาการของวิธีการวิวัฒนาการไปพร้อมกับวิธีการสร้างตัวเลือกวิวัฒนาการตามผลตอบกลับวิวัฒนาการวิธีการสร้างตัวเลือกกลยุทธ์การกลายพันธุ์ / ตัวคูณสเกล F / อัตราการผสมข้าม CRวิธีการนี้สร้างคำตอบ候选ประเมินและคัดเลือกส่งผลตอบกลับส่งผลตอบกลับวิธีการปรับตัวตามปัญหา สภาพแวดล้อม และผลตอบกลับปัญหาเลื่อนขึ้นหนึ่งระดับ: วิธีการเองกลายเป็นวัตถุแห่งวิวัฒนาการ

การดำเนินการสำคัญของ EvoX: เลื่อนระดับของปัญหาขึ้นหนึ่งชั้น

วิวัฒนาการของวิธีการเปลี่ยน "วิธีการสร้างคำตอบ候选" จากการเลือกออกแบบจากภายนอก ให้กลายเป็นวัตถุที่สามารถถูกค้นหาและวิวัฒนาการได้ การดำเนินการหลักของ EvoX ไม่ได้ปรับให้เหมาะที่สุดเพียงคำตอบ候选 แต่ยังปรับให้เหมาะที่สุดวิธีการสร้างตัวเลือกด้วย เช่น กลยุทธ์การกลายพันธุ์ ตัวคูณสเกล F อัตราการผสมข้าม CR ในการวิวัฒนาการเชิงอนุพันธ์ การตั้งค่าเหล่านี้สามารถเข้าสู่วงจรวิวัฒนาการและถูกปรับอย่างต่อเนื่องตามผลตอบกลับได้

ดังนั้นระบบจึงค้นหาสองระดับพร้อมกัน:"คำตอบ" และ "วิธีการสร้างคำตอบ"เมื่อรูปแบบของปัญหาเปลี่ยนไป สภาพแวดล้อมคลาดเคลื่อน หรือสัญญาณผลตอบกลับเปลี่ยนแปลง ระดับของวิธีการก็สามารถถูกเขียนใหม่ตามได้ แทนที่จะปล่อยให้กลยุทธ์ฮิวริสติกแบบตายตัวต้องฝืนรับมือทุกสถานการณ์

ข้อควรสังเกต
วิวัฒนาการของวิธีการไม่เท่ากับ "เปลี่ยนไปใช้อัลกอริทึมที่ดีกว่า" การเปลี่ยนอัลกอริทึมยังคงเป็นการเลือกโดยมนุษย์เพียงครั้งเดียว เมื่อเลือกแล้วก็ถูกตรึงไว้อีกครั้ง วิวัฒนาการของวิธีการเน้นว่ากลไกการสร้างตัวเลือกนี้เองอยู่ในสถานะที่ถูกค้นหาและถูกปรับอย่างต่อเนื่อง

ทำไมแรงจูงใจนี้จึงเป็นรากฐานของเนื้อหาต่อไป

มันอธิบายจุดแบ่งแยกระหว่าง EvoX กับเครื่องมือปรับให้เหมาะที่สุดทั่วไป: ขอบเขตของวัตถุแห่งวิวัฒนาการจะขยายออกไปได้อย่างไร อัลกอริทึมเองจะถูกปรับปรุงได้อย่างไร ระบบจะก้าวไปสู่การทำงานแบบเรียงชั้นและวิวัฒนาการอย่างต่อเนื่องได้อย่างไร ล้วนสร้างอยู่บน "การเลื่อนขึ้น" ในระดับนี้ ฐานพลังประมวลผลแก้ปัญหา "คำนวณขนาดใหญ่ได้หรือไม่" ส่วนวิวัฒนาการของวิธีการแก้ปัญหา "ในขณะที่คำนวณขนาดใหญ่ วิธีการค้นหาจะเติบโตไปพร้อมกันได้หรือไม่"