Visit the creator : magazineasp
MIT เปิดตัวนวัตกรรม AI รุ่นใหม่ในชื่อ SEAL (Self-Adapting Language Models) ซึ่งเป็นกรอบการทำงานที่ช่วยให้โมเดลภาษาขนาดใหญ่ (LLMs) สามารถเรียนรู้และปรับปรุงตัวเองได้อย่างต่อเนื่องโดยไม่ต้องพึ่งพาข้อมูลภายนอกเพียงอย่างเดียว แต่สามารถสร้างข้อมูลฝึกสอนขึ้นเองและแก้ไขน้ำหนักของโมเดลผ่านกระบวนการ self-editing ที่เรียนรู้ด้วยการเสริมแรง (reinforcement learning)
แนวคิดนี้ถือเป็นก้าวสำคัญสู่ AI ที่สามารถวิวัฒนาการตัวเองได้จริง โดย SEAL ทำงานผ่านสองวงจรซ้อนกัน: วงจรภายในที่โมเดลปรับน้ำหนักตามคำสั่งแก้ไขที่สร้างขึ้นเอง และวงจรภายนอกที่ประเมินผลลัพธ์และให้รางวัลเพื่อกระตุ้นให้โมเดลสร้างการแก้ไขที่มีประสิทธิภาพมากขึ้นในอนาคต
การทดลองกับโมเดล Llama และ Qwen รุ่นเล็ก-กลาง แสดงให้เห็นว่า SEAL ช่วยเพิ่มความสามารถในการเรียนรู้แบบ few-shot และการบูรณาการความรู้ใหม่ ๆ ได้อย่างมีนัยสำคัญ โดยเฉพาะอย่างยิ่งในงาน knowledge integration โมเดลที่ใช้ SEAL สามารถปรับปรุงผลลัพธ์ได้ดีกว่าโมเดลพื้นฐาน รวมถึงสามารถแซงหน้าการใช้ข้อมูลที่สร้างโดย GPT-4.1 ภายในสองรอบของการเรียนรู้ซ้ำ
อย่างไรก็ตาม นักวิจัยก็ชี้ถึงข้อจำกัดบางประการ เช่น ปัญหา catastrophic forgetting ที่โมเดลอาจลืมความรู้เก่าเมื่อเรียนรู้ใหม่ รวมถึงความต้องการทรัพยากรคอมพิวเตอร์สูงและความท้าทายในการกำหนดช่วงเวลาการเรียนรู้
ในช่วงเวลาที่ความสนใจใน AI ที่สามารถพัฒนาตัวเองกำลังเพิ่มสูงขึ้นอย่างรวดเร็ว SEAL ถือเป็นหลักฐานชัดเจนว่าการสร้าง AI ที่เรียนรู้และวิวัฒนาการได้ด้วยตนเองกำลังกลายเป็นความจริง และอาจเป็นรากฐานสำคัญสำหรับ AI เจเนอเรชันถัดไป ,
#SEL
#SelfAdaptingLanguageModels #AI
#MachineLearning #ReinforcementLearning
magazineasp