AI อะไรเนี่ย

Tools

AWS Nova Forge SDK ทำให้การปรับแต่งและ Fine-tune LLM ทำได้ง่ายขึ้น

AWS Nova Forge SDK ทำให้การปรับแต่งและ Fine-tune LLM ทำได้ง่ายขึ้น

เคยไหมที่รู้สึกว่าการปรับแต่ง (customization) โมเดลภาษาขนาดใหญ่ (LLM) เป็นเรื่องยุ่งยาก ต้องจัดการกับ dependency เลือก image หรือตั้งค่าต่างๆ ที่ซับซ้อน? ตอนนี้ AWS มีทางออกที่น่าสนใจมานำเสนอแล้ว นั่นคือ AWS Nova Forge SDK ที่จะเข้ามาช่วยลดความซับซ้อนเหล่านี้ ทำให้ทีมพัฒนาสามารถใช้ประโยชน์จากศักยภาพของ LLM ได้อย่างเต็มที่ โดยไม่ต้องกังวลกับความท้าทายด้านโครงสร้างพื้นฐานอีกต่อไป

Nova Forge SDK คืออะไร

AWS Nova Forge SDK เป็นเครื่องมือที่ถูกออกแบบมาเพื่อทำให้การปรับแต่งและ fine-tune โมเดลภาษาขนาดใหญ่ (LLM) อย่าง Amazon Nova ทำได้ง่ายขึ้นมากๆ หัวใจหลักของ SDK นี้คือการลดความยุ่งยากต่างๆ ที่นักพัฒนาต้องเจอ ไม่ว่าจะเป็นการจัดการ dependency, การเลือก image ที่เหมาะสม หรือการตั้งค่า "recipe" สำหรับการปรับแต่ง โมเดลเหล่านี้

SDK ตัวนี้รองรับตัวเลือกการปรับแต่งที่หลากหลาย ตั้งแต่การปรับโมเดลเบื้องต้นโดยใช้ Amazon SageMaker AI ไปจนถึงการปรับแต่งเชิงลึกด้วยความสามารถของ Amazon Nova Forge เลยทีเดียว ลองดูรายละเอียดเพิ่มเติมได้ที่ Kick-off Nova Customization Experiments using Nova Forge SDK

ทำอะไรได้บ้างและเหมาะกับใคร

Nova Forge SDK ช่วยให้ผู้ใช้สามารถฝึกโมเดล Amazon Nova ผ่าน Amazon SageMaker AI Training Jobs ได้อย่างราบรื่น กระบวนการนี้ครอบคลุมตั้งแต่การประเมินประสิทธิภาพเบื้องต้นของโมเดล (baseline performance evaluation), การทำ Supervised Fine-Tuning (SFT) เพื่อปรับปรุงโมเดลให้แม่นยำขึ้น, การทำ Reinforcement Fine Tuning (RFT) เพื่อปรับคุณภาพการตอบกลับให้ดียิ่งขึ้นไปอีก และสุดท้ายคือการนำโมเดลที่ปรับแต่งแล้วไปใช้งานจริงบน Amazon SageMaker AI Inference endpoints

เครื่องมือนี้เหมาะสำหรับทีมพัฒนาที่ต้องการปรับแต่ง LLM ให้เข้ากับความต้องการเฉพาะของธุรกิจ โดยที่ไม่ต้องเสียเวลาไปกับการจัดการโครงสร้างพื้นฐานที่ซับซ้อน ทำให้พวกเขาสามารถมุ่งเน้นไปที่การสร้างนวัตกรรมและปรับปรุงคุณภาพของโมเดลได้เต็มที่

ตัวอย่างการใช้งานจริง: การจำแนกคำถาม Stack Overflow

เพื่อแสดงให้เห็นถึงความสามารถของ SDK นี้ AWS ได้สาธิตการใช้งานในการจัดหมวดหมู่คำถามบน Stack Overflow โดยอัตโนมัติออกเป็นสามประเภทหลักๆ ได้แก่:

  • HQ (High Quality): คำถามคุณภาพสูง
  • LQ_EDIT (Low Quality – Edited): คำถามคุณภาพต่ำที่ได้รับการแก้ไขแล้ว
  • LQ_CLOSE (Low Quality – Closed): คำถามคุณภาพต่ำที่ถูกปิดไปแล้ว

การศึกษาเคสนี้ใช้ชุดข้อมูล Stack Overflow Question Quality ซึ่งมีคำถามกว่า 60,000 ข้อตั้งแต่ปี 2016-2020 ในการทดลอง ได้แบ่งข้อมูลเป็นส่วนๆ โดยใช้ 3,500 ตัวอย่างสำหรับการฝึก SFT, 500 ตัวอย่างสำหรับการประเมิน และ 4,200 ตัวอย่างสำหรับการทำ RFT (ซึ่งประกอบด้วย 700 ตัวอย่างเฉพาะสำหรับ RFT และ 3,500 ตัวอย่างจาก SFT) รายละเอียดเกี่ยวกับการทดลองนี้มีอธิบายไว้ในบล็อกโพสต์ Kick-off Nova Customization Experiments using Nova Forge SDK

เริ่มต้นใช้งาน Nova Forge SDK

การติดตั้ง Nova Forge SDK ทำได้ง่ายมากๆ เพียงแค่ใช้คำสั่ง pip ดังนี้:

pip install amzn-nova-forge

SDK นี้ประกอบด้วยโมดูลหลักๆ ที่สำคัญ เช่น NovaModelCustomizer, SMTJRuntimeManager, TrainingMethod, EvaluationTask, CSVDatasetLoader และ Model ซึ่งแต่ละโมดูลก็มีหน้าที่ช่วยให้กระบวนการปรับแต่งโมเดลเป็นไปอย่างราบรื่น

การเริ่มต้นใช้งานและทดลองความสามารถของ Nova Forge SDK ถือเป็นก้าวสำคัญที่จะช่วยให้ทีมพัฒนาสามารถปลดล็อกศักยภาพของ LLM ได้อย่างแท้จริง และทำให้การสร้างสรรค์นวัตกรรมด้าน AI เป็นเรื่องที่เข้าถึงได้ง่ายขึ้นอีกเยอะเลย

อ่านต่อ: อยากรู้เพิ่มเติมเกี่ยวกับการใช้งาน AWS Nova Forge SDK และวิธีเริ่มต้นการทดลองปรับแต่งโมเดลของคุณ? คลิกที่ Kick-off Nova Customization Experiments using Nova Forge SDK เพื่ออ่านบทความฉบับเต็ม!