การสำรวจลึกเกี่ยวกับโมเดลภาษาขนาดใหญ่
หลักสูตรนี้นำเสนอการแนะนำอย่างละเอียดและลึกซึ้งเกี่ยวกับประวัติการพัฒนาโมเดลภาษาขนาดใหญ่ (LLMs) สถาปัตยกรรมทางเทคนิคหลัก การฝึกอบรมแบบต่าง ๆ (การฝึกเบื้องต้น การปรับแต่ง และการประสานงาน) การขยายเป็นหลายรูปแบบ วิศวกรรมการกระตุ้น กระบวนการเหตุผลแบบห่วงโซ่ความคิด ตัวแทน รวมถึงหัวข้อแนวหน้า เช่น ความปลอดภัยของโมเดลและการปกป้องความเป็นส่วนตัว
ภาพรวมคอร์สเรียน
สรุปเนื้อหา
หลักสูตรนี้ให้การแนะนำอย่างละเอียดและครอบคลุมเกี่ยวกับการพัฒนาของโมเดลภาษาขนาดใหญ่ (LLMs) สถาปัตยกรรมทางเทคนิคหลัก การเรียนรู้แบบต่างๆ (การฝึกเบื้องต้น การปรับแต่งเฉพาะจุด และการประสานงาน), การขยายไปยังระบบหลายมิติ, การออกแบบคำสั่ง (Prompt Engineering), ห่วงโซ่ความคิด (Chain of Thought หรือ CoT), ตัวแทน (Agents) รวมถึงหัวข้อขั้นสูง เช่น ความปลอดภัยของโมเดลและการปกป้องความเป็นส่วนตัว
การวิเคราะห์เชิงลึกเกี่ยวกับการเปลี่ยนแปลงทางเทคโนโลยีและการประสานงานด้านความปลอดภัยของโมเดลขนาดใหญ่ทั้งระบบ ตั้งแต่การฝึกเบื้องต้นจนถึงตัวแทนทั่วไป
เป้าหมายการเรียนรู้
- แยกแยะโครงสร้างโมเดล: ระบุความแตกต่างทางโครงสร้างและกรณีการใช้งานของโมเดลประเภท Encoder-Only, Decoder-Only และ Encoder-Decoder
- อธิบายกระบวนการฝึกโมเดลภาษาขนาดใหญ่ (LLM): อธิบายลำดับการเปลี่ยนจาก "การฝึกแบบไม่มีผู้ควบคุม" (self-supervised pre-training) สู่ "การปรับแต่งแบบมีผู้ควบคุม" (Supervised Fine-Tuning หรือ SFT) และ "การเรียนรู้เสริมจากการตอบสนองของมนุษย์" (Reinforcement Learning from Human Feedback หรือ RLHF)
- วิเคราะห์การขยายขนาดและพฤติกรรมของโมเดล: อธิบายแนวคิดเรื่องกฎการขยายขนาด (Scaling Laws), ความสามารถที่ปรากฏขึ้น (เช่น การเรียนรู้ในบริบท, ห่วงโซ่ความคิด), และปรากฏการณ์ของการเล่าเรื่องเท็จ (Hallucinations)
- วิเคราะห์ความแตกต่างทางโครงสร้างระหว่างสถาปัตยกรรม Encoder-Only (BERT), Decoder-Only (GPT), และ Encoder-Decoder (T5)
- อธิบายกระบวนการฝึกอบรมสามขั้นตอน: การฝึกเบื้องต้น (โมเดลพื้นฐาน), การปรับแต่งคำสั่ง (SFT), และการประสานงาน (RLHF/PPO)
- เปรียบเทียบประสิทธิภาพ กฎการขยายขนาด และนวัตกรรมทางสถาปัตยกรรมของโมเดลภาษาขนาดใหญ่หลัก เช่น GPT, Llama, Qwen และ DeepSeek
- ประยุกต์ใช้กลยุทธ์การสั่งงานแบบ zero-shot และ few-shot สำหรับการดึงข้อมูลโครงสร้างและจำแนกประเภท
- ปรับพารามิเตอร์ไฮเปอร์ของโมเดล (เช่น ความร้อน, Top P, ค่าลงโทษ) เพื่อสมดุลระหว่างผลลัพธ์ที่สร้างสรรค์และแน่นอน
- สร้างคำสั่งห่วงโซ่ความคิด (CoT) ที่มีประสิทธิภาพโดยใช้วิธีการแบบดั้งเดิม แบบอัตโนมัติ และแบบ zero-shot ("ลองคิดทีละขั้นตอน")
- วิเคราะห์และเปรียบเทียบรูปแบบต่างๆ ของห่วงโซ่ความคิด: แยกแยะระหว่าง Self-Consistency, Program of Thought (PoT), Tree-of-Thought (ToT), และ Graph-of-Thought (GoT)