Intel เปิดตัว Gaudi 3 AI Accelerator รุ่นใหม่ แรงกว่า NVIDIA H100 ถึง 20% แต่ถูกกว่าครึ่ง

Intel เปิดตัว Gaudi 3 AI Accelerator รุ่นใหม่ เสริมสมรรถนะการประมวลผล AI สำหรับงาน Deep Learning

Intel ประกาศเปิดตัว Gaudi 3 AI Accelerator รุ่นใหม่ล่าสุด ซึ่งถูกออกแบบมาเพื่อยกระดับประสิทธิภาพการประมวลผล AI โดยเฉพาะสำหรับงานที่ต้องการความเร็วและประสิทธิภาพสูง เช่น งาน Deep Learning และการฝึกโมเดลปัญญาประดิษฐ์ขนาดใหญ่ ชิป Gaudi 3 นี้เป็น AI Accelerator รุ่นล่าสุดที่ต่อยอดจากรุ่นก่อน ๆ ของ Intel โดยมีคุณสมบัติที่ช่วยเพิ่มสมรรถนะการทำงานได้อย่างโดดเด่น

คุณสมบัติสำคัญของ Intel Gaudi 3

• ประสิทธิภาพสูงด้วย Tensor Processor Cores (TPCs): Gaudi 3 มาพร้อมกับ 64 Tensor Processor Cores (TPCs) และ 8 Matrix Multiplication Engines (MMEs) ที่ช่วยให้การประมวลผล AI ขนาดใหญ่สามารถทำได้อย่างรวดเร็วและมีประสิทธิภาพมากยิ่งขึ้น โดยเหมาะสำหรับการประมวลผลแบบ parallel และงานที่ต้องใช้การคำนวณแบบ matrix ซึ่งเป็นหัวใจของการฝึกและทำนายโมเดล AI
• หน่วยความจำ HBM2e ความจุสูง: ชิป Gaudi 3 มาพร้อมกับหน่วยความจำ HBM2e (High Bandwidth Memory 2e) ขนาด 128GB ซึ่งช่วยให้การประมวลผลข้อมูลขนาดใหญ่สามารถทำได้อย่างรวดเร็วและมีความต่อเนื่อง การเพิ่มขนาดของหน่วยความจำนี้ทำให้สามารถจัดการกับโมเดล AI ที่มีความซับซ้อนและต้องการข้อมูลจำนวนมากได้อย่างมีประสิทธิภาพ
• การเชื่อมต่อเครือข่ายความเร็วสูง: Gaudi 3 รองรับการเชื่อมต่อ Ethernet ความเร็วสูงถึง 200 Gbps จำนวน 24 พอร์ต ทำให้สามารถสื่อสารระหว่างตัวเร่งความเร็ว (accelerators) ได้อย่างรวดเร็วและมีประสิทธิภาพ ช่วยเพิ่มประสิทธิภาพในการประมวลผล AI แบบกระจาย (distributed training) และเหมาะสำหรับงานที่ต้องการการประมวลผลขนาน
• รองรับเฟรมเวิร์ก PyTorch และโมเดล AI ชั้นนำ: Gaudi 3 สามารถทำงานร่วมกับเฟรมเวิร์ก PyTorch และโมเดล AI จากแพลตฟอร์ม Hugging Face ได้อย่างสมบูรณ์ ทำให้การพัฒนาและการฝึกโมเดล AI เป็นไปได้อย่างราบรื่นและมีประสิทธิภาพ
• การร่วมมือกับ IBM Cloud: Intel ได้ประกาศความร่วมมือกับ IBM ในการนำ Gaudi 3 ไปใช้เป็นบริการบน IBM Cloud ช่วยให้ผู้ใช้งานสามารถเข้าถึงพลังประมวลผลของ Gaudi 3 ได้อย่างง่ายดายผ่านระบบคลาวด์ ลดความซับซ้อนและค่าใช้จ่ายในการตั้งค่าโครงสร้างพื้นฐานสำหรับงาน AI ขนาดใหญ่

ความสามารถที่เหนือกว่าในการประมวลผล AI

Intel อ้างว่า Gaudi 3 มีประสิทธิภาพที่สูงกว่าเมื่อเทียบกับการ์ดเร่งความเร็ว AI อื่น ๆ ในตลาด โดยมี throughput สูงขึ้นถึง 20% และมีประสิทธิภาพต่อราคาดีขึ้น 2 เท่าเมื่อเทียบกับ NVIDIA H100 สำหรับงาน inference ของโมเดล AI ขนาดใหญ่ เช่น LLaMa 2 70B ทำให้ Gaudi 3 เป็นตัวเลือกที่คุ้มค่าและเหมาะสำหรับองค์กรที่ต้องการเพิ่มประสิทธิภาพการประมวลผล AI ขนาดใหญ่

การใช้งานที่เหมาะสมกับ Gaudi 3

• งาน AI และ Deep Learning ขนาดใหญ่: ด้วยความสามารถในการประมวลผลที่รวดเร็วและประสิทธิภาพที่สูง ชิป Gaudi 3 จึงเหมาะสำหรับการฝึกและทำนายโมเดล AI ขนาดใหญ่ เช่น Natural Language Processing (NLP), Computer Vision และโมเดล Generative AI
• ศูนย์ข้อมูลและคลาวด์ (Data Center & Cloud): สามารถใช้งานในศูนย์ข้อมูลที่ต้องการพลังประมวลผลสูง และสามารถนำไปใช้เป็นโครงสร้างพื้นฐานบนคลาวด์ได้อย่างมีประสิทธิภาพ
• การสร้างแพลตฟอร์ม AI สำหรับองค์กร: เหมาะสำหรับองค์กรที่ต้องการพัฒนาโซลูชัน AI ที่มีประสิทธิภาพและขยายได้ในระดับที่สูง

การเปิดตัวของ Intel Gaudi 3 AI Accelerator แสดงให้เห็นถึงความก้าวหน้าของ Intel ในการสร้างสรรค์โซลูชันที่รองรับงานปัญญาประดิษฐ์ขนาดใหญ่ โดยมุ่งเน้นที่ความสามารถในการประมวลผลที่รวดเร็ว, ความคุ้มค่า, และการทำงานร่วมกับเครื่องมือและเฟรมเวิร์กยอดนิยม ซึ่งจะช่วยผลักดันให้องค์กรสามารถนำ AI ไปใช้ในการดำเนินงานและพัฒนาผลิตภัณฑ์ได้อย่างมีประสิทธิภาพมากยิ่งขึ้น

Gaudi เป็นชุดของ AI Accelerators ที่ออกแบบมาเพื่อการประมวลผลงานด้านปัญญาประดิษฐ์ (AI) และ Deep Learning โดยเฉพาะ พัฒนาโดย Habana Labs ซึ่งเป็นบริษัทที่ Intel เข้าซื้อกิจการในปี 2019 ปัจจุบัน Gaudi ได้กลายมาเป็นส่วนหนึ่งของโซลูชัน AI ของ Intel

ที่มา – Intel