⚡ สรุปใน 30 วินาที
- TorchNeuron ช่วยย้ายแอป PyTorch ไป Trainium ด้วยการเปลี่ยนการตั้งค่าเพียง 1 บรรทัด
- AWS ต้องการลดการพึ่งพา Nvidia และผลักดันให้ PyTorch รองรับฮาร์ดแวร์หลากหลายขึ้น
- จุดขายคือใช้ Trainium ได้ทั้ง Training และ Inference พร้อมบริการ Cloud ของ AWS
สำหรับ Startup ที่พัฒนา AI ด้วย PyTorch การเลือกชิปประมวลผลอาจไม่จำเป็นต้องผูกกับ Nvidia อีกต่อไป AWS เปิดตัว TorchNeuron เครื่องมือที่ช่วยให้แอปย้ายไปทำงานบนชิป Trainium ได้ด้วยการเปลี่ยนการตั้งค่าเพียง 1 บรรทัด โดยไม่ต้องเขียนโค้ดใหม่ทั้งระบบ
ความเคลื่อนไหวนี้ไม่ใช่แค่การเปิดตัวเครื่องมือสำหรับนักพัฒนา แต่เป็นความพยายามครั้งสำคัญของ Amazon ที่จะท้าทายจุดแข็งด้าน Software ของ Nvidia ซึ่งทำให้ GPU ของบริษัทกลายเป็นตัวเลือกเริ่มต้นสำหรับงาน AI จำนวนมาก
สำหรับคนทำธุรกิจออนไลน์ เรื่องนี้อาจยังไม่เปลี่ยนต้นทุนทันที แต่สะท้อนว่าโครงสร้างพื้นฐานสำหรับ AI กำลังมีตัวเลือกมากขึ้น และการแข่งขันด้านราคาและประสิทธิภาพอาจรุนแรงขึ้นตามมา
TorchNeuron ลดขั้นตอนย้ายแอปไปใช้ Trainium
TorchNeuron ทำงานร่วมกับ PyTorch ซึ่งเป็น Toolkit แบบ Open Source ที่นักพัฒนาใช้สร้าง ฝึก และรัน AI Model โดย Amazon ระบุว่าแอป AI ราว 85% สร้างด้วย PyTorch จึงมีฐานผู้ใช้ขนาดใหญ่รองรับอยู่แล้ว
แนวทางของ AWS คือทำให้ผู้ที่คุ้นเคยกับ PyTorch ใช้เครื่องมือใหม่ได้ทันที เพราะ TorchNeuron พัฒนาต่อยอดจาก PyTorch นักพัฒนาไม่จำเป็นต้องเรียนรู้ Framework ใหม่ทั้งหมดเพื่อทดลองใช้ Trainium
- รองรับแอปที่เขียนด้วย PyTorch
- ย้ายไปทำงานบน Trainium ด้วยการปรับการตั้งค่า
- ไม่ต้องเขียนโค้ดใหม่ทั้งระบบตามข้อมูลของ Amazon
- เชื่อมต่อกับบริการ Cloud ของ AWS ตั้งแต่การทำ Prototype ไปจนถึง Production
Amazon ต้องการลดการผูกติดกับ Nvidia
เหตุผลที่ Nvidia ครองความได้เปรียบไม่ได้มาจากตัวชิปเพียงอย่างเดียว แต่รวมถึง CUDA ซึ่งเป็นโครงสร้าง Software ที่ช่วยให้แอป AI ทำงานบน Hardware ของ Nvidia ได้อย่างราบรื่น Nvidia พัฒนาการรองรับ PyTorch มาหลายปี จน Hardware ของบริษัทฝังอยู่ใน Workflow ของนักพัฒนาแทบจะเป็นค่าเริ่มต้น
AWS ระบุว่าไม่ได้ต้องการทำให้ PyTorch รองรับเฉพาะ Trainium เท่านั้น แต่กำลังส่ง Code กลับเข้าโครงการหลักของ PyTorch เพื่อช่วยลดส่วนที่ผูกกับชิปใดชิปหนึ่ง เป้าหมายคือทำให้ Framework รองรับ Hardware ได้เป็นกลางมากขึ้น
แนวคิดนี้อาจช่วยให้นักพัฒนามีทางเลือกเพิ่มขึ้น แต่ก็ยังมีคำถามว่าการลดการพึ่งพา Nvidia จะทำให้การใช้งานง่ายขึ้นจริง หรือทำให้เกิดขั้นตอนการตั้งค่าและปัญหาความเข้ากันได้มากกว่าเดิม
จุดขายคือใช้แพลตฟอร์มเดียวตั้งแต่ Training ถึง Inference
AWS พยายามชูว่า Trainium เหมาะกับ Startup เพราะใช้แพลตฟอร์มเดียวรองรับทั้ง Training หรือการฝึก Model และ Inference หรือการนำ Model ไปใช้งานจริง นอกจากนี้ Startup ยังใช้บริการ Cloud อื่นของ AWS ต่อได้ โดยไม่ต้องประกอบระบบรอบชิปด้วยตัวเอง
Amazon ยังอ้างถึงกรณีของ Deepgram ผู้ให้บริการ AI ด้านเสียงว่า หลังย้ายไปใช้ Trainium ด้วยการรองรับ PyTorch แบบ Native บริษัทประมวลผลเสียงได้มากขึ้น 70% ต่อดอลลาร์ โดยยังคงความแม่นยำระดับ Production ไว้ได้ ทั้งนี้ ตัวเลขดังกล่าวเป็นข้อมูลที่ AWS อ้างถึงในข่าว
เรื่องนี้เกี่ยวกับคุณยังไง
หากคุณทำ SaaS, AI Tool หรือบริการที่ต้องประมวลผล Model ขนาดใหญ่ การแข่งขันระหว่างผู้ให้บริการชิปและ Cloud อาจเปิดทางเลือกด้านต้นทุนมากขึ้น แต่ยังไม่ควรตัดสินใจจากราคาต่อ Token เพียงอย่างเดียว
- ตรวจสอบว่า AI Stack ของคุณพึ่งพา Nvidia หรือ CUDA ในจุดใดบ้าง
- ประเมินต้นทุนรวมตั้งแต่ Training, Inference, Storage และบริการ Cloud อื่น
- ทดลองย้าย Workload บางส่วนก่อน โดยเฉพาะงานที่สร้างด้วย PyTorch
- เปรียบเทียบความเร็ว ความแม่นยำ และความเสถียรในสภาพใช้งานจริง
- ติดตามการพัฒนา PyTorch และเครื่องมือรองรับ Hardware หลายค่ายอย่างต่อเนื่อง
สำหรับผู้ใช้งานทั่วไป นี่คือสัญญาณว่า AI อาจไม่ได้ถูกกำหนดโดยผู้ผลิตชิปเพียงรายเดียวในระยะยาว หากการแข่งขันทำให้ต้นทุนโครงสร้างพื้นฐานลดลง ผู้ให้บริการ AI ก็อาจมีพื้นที่พัฒนาฟีเจอร์ใหม่และตั้งราคาที่เข้าถึงง่ายขึ้น
