OpenAI ประกาศทดสอบระบบ Ultrafast (โหมดประมวลผลความเร็วสูงพิเศษ) สำหรับโมเดล GPT-5.6 Sol บนระบบ API (ส่วนต่อประสานโปรแกรมประยุกต์) การทำงานโหมดใหม่มีความเร็วเพิ่มขึ้นสูงสุด 14 เท่าเมื่อเทียบกับโหมดปกติ ความสามารถนี้ขับเคลื่อนจากเทคโนโลยีของชิปประมวลผล Cerebras สร้างผลลัพธ์สูงสุด 750 เอาต์พุตโทเคนต่อวินาที
อดีตการประมวลผลให้รวดเร็วแบบเรียลไทม์มักต้องแลกกับการลดขนาดโมเดลให้เล็กลง การมาถึงของโหมดความเร็วสูงเปลี่ยนข้อจำกัดนี้ให้ผู้ใช้งานเข้าถึงความชาญฉลาดระดับสูงพร้อมความเร็วตอบสนองทันที OpenAI ตั้งเป้าหมายนำโมเดลอัจฉริยะเข้าสู่งานแข่งกับเวลา ทำให้ระบบ AI สามารถวิเคราะห์และตอบสนองทันท่วงที
ปัจจุบันมีกลุ่มลูกค้าทดสอบใช้งานระบบความเร็วสูงในหลากหลายสถานการณ์ ประกอบด้วย
- การรับมือเหตุขัดข้อง: วิเคราะห์บันทึกระบบและโค้ดเพื่อหาสาเหตุและเตรียมการแก้ไขขณะเกิดปัญหา
- การเงินและความปลอดภัย: ตรวจจับสัญญาณตลาดและประเมินธุรกรรมน่าสงสัยตามเวลาจริง
- บริการลูกค้า: แก้ปัญหาซับซ้อนให้ลูกค้าทันทีระหว่างการสนทนา
- อีคอมเมิร์ซ: ตอบคำถามสินค้าและตรวจสอบคลังสินค้าก่อนลูกค้าละทิ้งตะกร้า
- การวิจัย: ทดสอบและปรับเปลี่ยนแผนการทดลองทันทีแทนการรอข้ามคืน
ทีมงานภายใน OpenAI นำระบบดังกล่าวมาใช้งานจริงเช่นกัน เฉพาะอย่างยิ่งการตอบสนองต่อเหตุการณ์ระบบล่มและงานวิจัยเชิงลึก ช่วยลดช่องว่างระหว่างการสังเกตปัญหาและการลงมือแก้ไข ปัจจุบันโหมดประมวลผลความเร็วสูงเปิดให้ทดสอบแบบจำกัดเฉพาะลูกค้าบางกลุ่ม OpenAI มีแผนขยายการเข้าถึงเพิ่มเติมเมื่อระบบมีความพร้อมรองรับปริมาณงานมากขึ้น
ที่มา: OpenAI