NVIDIA Jetson: รันโมเดล AI สร้างสรรค์แบบ Open Source บน Edge

เทคโนโลยี AI สร้างสรรค์แบบ Open Source กำลังเป็นที่นิยมและไม่ได้จำกัดอยู่แค่ใน Data Center อีกต่อไปแล้วนะ! ตอนนี้เรากำลังเห็น AI เหล่านี้ถูกนำไปใช้งานจริงบนเครื่องจักรที่ทำงานในโลกกายภาพมากขึ้นเรื่อยๆ

แพลตฟอร์ม NVIDIA Jetson ซึ่งรวมถึงตระกูล Orin และ Thor ได้กลายเป็นศูนย์กลางสำคัญในการรันโมเดล AI ยอดนิยม อย่าง NVIDIA Nemotron, Cosmos และ Isaac GR00T รวมถึงโมเดลชุมชนอื่นๆ อีกมากมาย เช่น Qwen, Gemma, Mistral AI, GPT-OSS และ PI

ทำไม AI สร้างสรรค์ถึงต้องมาอยู่ที่ Edge?

ปกติแล้ว โมเดล AI โดยเฉพาะโมเดลขนาดใหญ่ มักจะทำงานใน Data Center ที่มีทรัพยากรคอมพิวท์และเครือข่ายพร้อม แต่การใช้งานบนคลาวด์ก็มีข้อจำกัดเรื่องความหน่วง (Latency) และค่าใช้จ่ายที่เพิ่มขึ้นตามการเรียกใช้งาน

แต่สำหรับระบบที่ทำงานในโลกจริง อุปกรณ์เหล่านี้ต้องการสิ่งต่างออกไป:

ความหน่วงต่ำ: เพราะต้องโต้ตอบกับคนและสภาพแวดล้อมแบบเรียลไทม์
พลังงานจำกัด: อุปกรณ์มีข้อจำกัดเรื่องแบตเตอรี่และแหล่งจ่ายไฟ
พฤติกรรมที่สอดคล้องกัน: ความไม่แน่นอนอาจนำไปสู่ความเสี่ยงได้
ความเป็นส่วนตัวของข้อมูล: ข้อมูลสำคัญไม่จำเป็นต้องถูกส่งออกไปที่อื่น

NVIDIA Jetson จึงเข้ามาตอบโจทย์ตรงนี้ โดยรวบรวม Compute และ Memory เข้าไว้ด้วยกันใน System-on-Module ช่วยให้นักพัฒนาสามารถออกแบบฮาร์ดแวร์ได้ง่ายขึ้น และเมื่อโมเดล AI มีประสิทธิภาพมากขึ้น นักพัฒนาก็เริ่มมองหาว่า “จะรันโมเดลที่ไหนถึงจะเหมาะสมที่สุด” และบ่อยครั้งคำตอบก็คือ บนอุปกรณ์โดยตรง ซึ่งเริ่มตั้งแต่ NVIDIA Jetson Orin Nano 8GB สำหรับโมเดล AI สร้างสรรค์ระดับเริ่มต้นเลย

Jetson ทำอะไรได้บ้าง: ตัวอย่างการใช้งานจริง

ในงาน CES ที่ผ่านมา มีการสาธิตที่น่าสนใจมากมายที่แสดงให้เห็นถึงศักยภาพของ Jetson:

ผู้ช่วย AI สำหรับเครื่องจักรหนัก ลองนึกภาพรถขุดขนาดเล็ก Cat 306 CR ที่มีผู้ช่วย AI ในตัว! ในงาน CES รถขุดคันนี้มี "Cat AI Assistant" ที่ทำงานบน NVIDIA Jetson Thor มันใช้โมเดลเสียง NVIDIA Nemotron ในการโต้ตอบด้วยเสียงที่เป็นธรรมชาติ และใช้ Qwen3 4B (ทำงานผ่าน vLLM) ในการตีความคำขอและสร้างการตอบสนอง ทุกอย่างทำงานแบบ Local โดยไม่ต้องเชื่อมต่อกับคลาวด์เลย!

ผู้ช่วย AI ส่วนตัวที่ Edge โมเดลแบบเปิดช่วยให้นักพัฒนาสามารถสร้างและทดลองอะไรใหม่ๆ ได้อิสระมากขึ้น อย่างโปรเจกต์ OpenClaw ที่สามารถรันบน NVIDIA Jetson developer kit ได้ทุกตัว ช่วยให้นักพัฒนาสร้างผู้ช่วย AI ส่วนตัวที่ทำงานได้ตลอดเวลาบน Edge โดยไม่มีค่าใช้จ่าย API และยังรักษาความเป็นส่วนตัวของข้อมูลได้อย่างสมบูรณ์ OpenClaw รองรับโมเดลตั้งแต่ 2 พันล้านถึง 3 หมื่นล้านพารามิเตอร์ นักพัฒนา Ajeet Singh Raina จาก Collabnix ก็ได้แสดงให้เห็นถึงวิธีรัน OpenClaw บน Jetson Thor เพื่อสร้างผู้ช่วย AI ส่วนตัวที่ทำงานได้ 24/7 ที่สามารถจัดการอีเมลและปฏิทินผ่าน Local gateway ได้ด้วย

หุ่นยนต์ AI อัจฉริยะ สำหรับระบบ AI ในโลกกายภาพ โมเดล AI สร้างสรรค์กำลังขยายขีดความสามารถไปได้ไกลมาก:

หุ่นยนต์แขนกลจาก Franka Robotics: ระบบแขนคู่ FR3 Duo ได้รันโมเดล NVIDIA Isaac GR00T N1.6 แบบ End-to-End บนบอร์ดโดยตรง ตั้งแต่การรับรู้ไปจนถึงการเคลื่อนไหว โดยไม่ต้องเขียนสคริปต์คำสั่งเลย
โครงการ SONIC ของ NVIDIA GEAR Lab: ได้นำนโยบายควบคุมหุ่นยนต์ฮิวแมนนอยด์ไปปรับใช้บน Jetson Orin โดยที่ Kinematic Planner ทำงานประมาณ 12 มิลลิวินาทีต่อรอบ และ Policy Loop ทำงานที่ 50 Hz ทุกอย่างทำงานบนบอร์ด
หุ่นยนต์ชงชาจาก UIUC SIGRobotics: ทีมงานจาก UIUC SIGRobotics ได้สร้างหุ่นยนต์แขนคู่สำหรับชงชาโดยใช้ Jetson Thor และรันโมเดล GR00T N1.5 ซึ่งได้รับรางวัลชนะเลิศจากการแข่งขัน NVIDIA Embodied AI Hackathon
หุ่นยนต์ YOR จาก NYU: นักวิจัยจาก NYU Center for Robotics and Embodied Intelligence ได้รันหุ่นยนต์ YOR บน Jetson Thor โดยใช้พลังประมวลผลของ NVIDIA Blackwell เพื่อจัดการการเคลื่อนไหวที่ขับเคลื่อนด้วย AI ผลลัพธ์เบื้องต้นแสดงให้เห็นว่า YOR สามารถทำงานหยิบจับที่ซับซ้อนได้ดีขึ้น สามารถปรับตัวกับวัตถุใหม่ๆ ได้ดีขึ้น และมีความทนทานต่อความแปรปรวนของฉาก ช่วยให้พร้อมสำหรับงานบ้านหลากหลายประเภท เช่น การทำอาหารและซักผ้า

ระบบ AI ตัวแทน (Agentic AI) นักวิจัยอิสระอย่าง Andrés Marafioti หัวหน้าฝ่ายวิจัย Multimodal จาก Hugging Face ได้สร้างระบบ Agentic AI บน Jetson AGX Orin ที่สามารถจัดเส้นทางงานข้ามโมเดลและกำหนดเวลาการทำงานของตัวเองได้ ระบบ AI นี้เคยส่งข้อความหาเขาตอนดึกให้ไปนอน เพราะทุกอย่างจะพร้อมในตอนเช้า!

Jetson รองรับโมเดลไหนบ้าง?

NVIDIA Jetson ได้กลายเป็นแพลตฟอร์มมาตรฐานสำหรับการรันโมเดล AI แบบเปิดบน Edge รองรับโมเดลและเฟรมเวิร์ก AI ที่หลากหลาย ทำให้นักพัฒนาสามารถทำงาน AI สร้างสรรค์บน Edge ได้เกือบทุกรูปแบบ ไม่ว่าจะเป็น:

Gemma: สร้างขึ้นจากการวิจัย Gemini ของ Google เป็นโมเดลอเนกประสงค์สำหรับ Jetson รองรับ Multimodal ทำงานได้มากกว่า 140 ภาษา บน Jetson Thor สามารถจัดการ Context Window ขนาดใหญ่ถึง 128K ทำให้เหมาะสำหรับหุ่นยนต์ที่ต้องจดจำคำสั่งที่ซับซ้อนหลายขั้นตอน
gpt-oss-20B: โมเดลจาก OpenAI นี้ช่วยให้การปรับใช้ AI ขั้นสูงทำได้ง่ายขึ้น โดยให้ประสิทธิภาพการให้เหตุผลที่ใกล้เคียงกับ State-of-the-Art ในโมเดลที่สามารถรัน Locally บน Jetson Thor และ Orin เพื่อการ Inference ที่คุ้มค่า
Mistral AI: ตระกูลโมเดล Mistral 3 แบบเปิดใหม่มอบความแม่นยำ ประสิทธิภาพ และความสามารถในการปรับแต่งชั้นนำของอุตสาหกรรมสำหรับนักพัฒนาและองค์กร ตระกูลนี้ประกอบด้วยโมเดลขนาดเล็กที่มีพารามิเตอร์ตั้งแต่ 3B ถึง 14B ซึ่งเร็วและฉลาดอย่างน่าทึ่งสำหรับขนาดของมัน นักพัฒนา Jetson สามารถใช้คอนเทนเนอร์ vLLM บน NVIDIA Jetson Thor เพื่อให้ได้ 52 Token ต่อวินาทีสำหรับการทำงานแบบ Concurrency เดี่ยว และสามารถขยายได้ถึง 273 Token ต่อวินาทีด้วย Concurrency แปด
NVIDIA Cosmos: เป็นโมเดล Vision Language ที่ขับเคลื่อนด้วยเหตุผลแบบเปิดชั้นนำ ช่วยให้หุ่นยนต์และ AI Agents สามารถมองเห็น เข้าใจ และกระทำในโลกกายภาพได้เหมือนมนุษย์

เริ่มต้นใช้งาน Jetson สำหรับ AI สร้างสรรค์

ถ้าใครสนใจอยากลองสร้างอะไรเจ๋งๆ ด้วย AI สร้างสรรค์บน Edge สามารถดู Benchmark ของโมเดลต่างๆ และบทแนะนำจากชุมชน Open Model ได้ที่ Jetson AI Lab.

อ่านต่อ: อยากรู้รายละเอียดเพิ่มเติมเกี่ยวกับ NVIDIA Jetson และ AI สร้างสรรค์บน Edge ใช่ไหม? คลิกเลยที่ NVIDIA Blog: Jetson Generative AI ที่ Edge แล้วมาดูกันว่า Jetson จะเปลี่ยนโลกของเราไปได้ขนาดไหน!