IBM เปิดตัว Granite 4.0 Nano โมเดลภาษาขนาดเล็กตระกูล Granite 4.0 รันในมือถือหรืออุปกรณ์ขนาดเล็กได้

Granite 4.0 Nano เปิดทาง AI ขนาดเล็กสำหรับอุปกรณ์ Edge และมือถือ ด้วยพลังประมวลผลสูงในขนาดเพียงไม่กี่ร้อยล้านพารามิเตอร์

IBM เปิดตัวโมเดลภาษารุ่นใหม่ภายใต้ชื่อ Granite 4.0 Nano ซึ่งเป็นโมเดลภาษาขนาดเล็กที่สุดในตระกูล Granite 4.0 ที่ออกแบบมาให้สามารถทำงานได้บนอุปกรณ์ขนาดเล็ก เช่น โทรศัพท์มือถือ หรือระบบ Edge โดยไม่ต้องพึ่งพาการประมวลผลจากคลาวด์

Granite 4.0 Nano มีให้เลือกสองขนาด ได้แก่ 1 พันล้านพารามิเตอร์ (1B) และ 350 ล้านพารามิเตอร์ (350M) ทั้งในเวอร์ชันแบบ dense และแบบ hybrid-SSM (State Space Model) เพื่อรองรับการทำงานที่ต้องการความเร็วและประสิทธิภาพสูง แต่ใช้หน่วยความจำน้อยลงอย่างมากเมื่อเทียบกับโมเดล LLM ทั่วไป

IBM ระบุว่า Granite 4.0 Nano ได้รับการออกแบบให้เหมาะกับการทำงานบนอุปกรณ์ที่มีทรัพยากรจำกัด เช่น สมาร์ตโฟน, Raspberry Pi, หรือชิปฝังตัว โดยยังคงประสิทธิภาพด้านความเข้าใจภาษา การเขียนโค้ด และเหตุผลเชิงตรรกะได้ใกล้เคียงกับโมเดลขนาดใหญ่ในระดับเดียวกัน

โมเดลนี้เปิดให้ใช้งานแบบโอเพนซอร์สภายใต้ใบอนุญาต Apache 2.0 พร้อมรองรับเฟรมเวิร์กยอดนิยม เช่น vLLM, llama.cpp และ Apple MLX เพื่อให้นักพัฒนาสามารถรันโมเดลบนแพลตฟอร์มต่าง ๆ ได้ทันที

ในด้านประสิทธิภาพ Granite 4.0 Nano ทำคะแนนได้สูงกว่าโมเดลขนาดใกล้เคียงจากคู่แข่ง เช่น Qwen, Gemma และ LiquidAI LFM ในการทดสอบหลายหมวดหมู่ รวมถึงความรู้ทั่วไป คณิตศาสตร์ การเขียนโปรแกรม และความปลอดภัยของโมเดล

IBM ยังย้ำว่าการพัฒนา Granite 4.0 Nano ดำเนินการตามมาตรฐาน ISO 42001 ด้านการจัดการระบบ AI เพื่อให้มั่นใจในความโปร่งใสและความปลอดภัยของข้อมูลในทุกขั้นตอนของการสร้างและฝึกสอนโมเดล

การเปิดตัว Granite 4.0 Nano ถือเป็นอีกก้าวสำคัญของ IBM ในการผลักดันแนวทาง “AI ขนาดเล็กแต่ฉลาด” ที่สามารถรันได้ในทุกที่ โดยเฉพาะในยุคที่อุปกรณ์พกพาและระบบ Edge Computing กลายเป็นศูนย์กลางของการประมวลผล AI ทั่วโลก

ที่มา: IBM Blog via MarkTechPost