News
Snap เร่งการทดสอบ A/B ด้วย NVIDIA GPU ประหยัดค่าใช้จ่าย
บทนำ
Snap บริษัทแม่ของแอปพลิเคชัน Snapchat ที่มีผู้ใช้งานกว่า 940 ล้านคนต่อเดือน กำลังเร่งการพัฒนาและปรับปรุงฟีเจอร์ใหม่ ๆ ด้วยเทคโนโลยีสุดล้ำ ด้วยการนำไลบรารีประมวลผลข้อมูลแบบเปิดของ NVIDIA มาใช้บน Google Cloud ทำให้ Snap สามารถทดสอบ A/B ได้เร็วขึ้นอย่างเห็นได้ชัด และยังช่วยประหยัดค่าใช้จ่ายได้อย่างมหาศาล เรื่องราวความสำเร็จนี้เผยแพร่ใน บล็อก NVIDIA เขียนโดย Sid Sharma
ทำอะไรได้บ้าง
เพื่อให้ Snapchat ยังคงทันสมัยและนำเสนอประสบการณ์ใหม่ ๆ ให้ผู้ใช้งานได้อย่างต่อเนื่อง Snap ต้องดำเนินการทดสอบ A/B นับพันครั้งในแต่ละเดือนเพื่อประเมินฟีเจอร์ใหม่ ๆ ก่อนเปิดตัวจริง การทดสอบเหล่านี้ต้องประมวลผลข้อมูลกว่า 10 เพตะไบต์ภายในเวลาเพียงสามชั่วโมงทุกวัน โดยใช้เฟรมเวิร์ก Apache Spark
Snap ได้ตัดสินใจนำ NVIDIA cuDF ซึ่งเป็นส่วนหนึ่งของไลบรารี NVIDIA CUDA-X มาใช้เพื่อเร่งการทำงานของแอปพลิเคชัน Apache Spark บน NVIDIA GPU โดยเฉพาะ NVIDIA L4 GPU บนเครื่องเสมือน G2 ของ Google Cloud ผ่าน Google Kubernetes Engine วิธีการนี้ทำให้การประมวลผลข้อมูลบน GPU ทำงานได้รวดเร็วและมีประสิทธิภาพมากขึ้น โดยไม่จำเป็นต้องแก้ไขโค้ดแอปพลิเคชันเดิมมากนัก
ทำไมถึงสำคัญ
การเปลี่ยนแปลงโครงสร้างพื้นฐานครั้งนี้ได้นำมาซึ่งผลลัพธ์ที่น่าทึ่งสำหรับ Snap:
- ความเร็วที่เพิ่มขึ้น 4 เท่า: เวิร์คโหลดการประมวลผลข้อมูลที่ใช้ในการทดสอบ A/B สามารถทำได้เร็วขึ้นถึง 4 เท่า
- ประหยัดค่าใช้จ่ายได้ 76%: จากข้อมูลภายในของ Snap ที่เก็บรวบรวมระหว่างวันที่ 1 มกราคม ถึง 28 กุมภาพันธ์ พบว่าช่วยลดค่าใช้จ่ายรายวันได้ถึง 76% เมื่อเทียบกับการทำงานบน CPU เพียงอย่างเดียว
- ลดจำนวน GPU ที่ต้องการ: ทีมงานสามารถเพิ่มประสิทธิภาพไปป์ไลน์การทำงานบน NVIDIA L4 GPU บน Google Cloud’s G2 virtual machines ให้ใช้ GPU เพียง 2,100 ตัวพร้อมกัน จากเดิมที่ประมาณการไว้ถึง 5,500 ตัว
นี่ไม่ใช่แค่เรื่องความเร็วและการประหยัดค่าใช้จ่ายเท่านั้น แต่ยังช่วยให้ Snap สามารถทดลองและพัฒนาฟีเจอร์ใหม่ ๆ ได้มากขึ้น ทำให้ Snapchat ก้าวล้ำไปข้างหน้าได้เร็วยิ่งขึ้น และนำเสนอนวัตกรรมใหม่ๆ ให้กับผู้ใช้งานได้อย่างต่อเนื่อง
ต่อไปเป็นยังไง
จากความสำเร็จของการใช้ GPU เพื่อเร่งการทดสอบ A/B ทำให้ทีมงาน Snap มีแผนที่จะขยายการใช้งาน Spark accelerator นี้ออกไปสู่เวิร์คโหลดการผลิตในวงกว้างมากขึ้น ไม่ใช่แค่เพียงการทดสอบ A/B เท่านั้น ซึ่งแสดงให้เห็นถึงศักยภาพอันมหาศาลของเทคโนโลยีนี้ในการขับเคลื่อนนวัตกรรมและประสิทธิภาพในอนาคต
คุณสามารถเรียนรู้เพิ่มเติมเกี่ยวกับการทดลอง A/B ที่เร่งด้วย GPU ของ Snap ได้ในเซสชัน NVIDIA GTC
อ่านต่อ: Snap เร่งการประมวลผลข้อมูลด้วย NVIDIA GPUs เพื่อดูรายละเอียดทั้งหมดของความร่วมมือครั้งสำคัญนี้