โมเดล Astra จาก OpenAI เปลี่ยนวิธีให้เหตุผลเป็นแบบวงลูปซ่อนเร้น ทำผู้เชี่ยวชาญกังวลปัญหาการติดตามกระบวนการคิดของ AI

OpenAI ใช้เทคนิคประมวลผลวนซ้ำแบบซ่อนเร้นในโมเดล Astra เสี่ยงทำลายระบบตรวจสอบลำดับการคิดและตัดสินใจของ AI

OpenAI นำเสนอเทคนิคการให้เหตุผลรูปแบบใหม่ชื่อ recurrent depth (การประมวลผลแบบวนซ้ำ) ในโมเดล Astra เทคนิคนี้มีชื่อเรียกอีกอย่างว่า opaque recurrence (การวนซ้ำแบบซ่อนเร้น) ทำงานนอกเหนือการคิดตามลำดับขั้นตามปกติ การเปลี่ยนรูปแบบการประมวลผลครั้งนี้ทำให้การตรวจสอบ chain of thought (กระบวนการคิดตามลำดับขั้น) ทำยากขึ้น สร้างความกังวลให้กับกลุ่มผู้เชี่ยวชาญด้านความปลอดภัย AI เนื่องจากระบบซ่อนเร้นขั้นตอนการตัดสินใจจากผู้ดูแล

Buck Shlegeris ตำแหน่ง CEO ของ Redwood แสดงความกังวลต่อการนำ opaque recurrence มาใช้งาน หาก OpenAI พัฒนาเทคนิคนี้ต่อไป อาจส่งผลให้ระบบละทิ้งความสามารถในการตรวจสอบกระบวนการคิดทั้งหมด ทางด้าน Zvi Mowshowitz ผู้รณรงค์ด้านความปลอดภัย AI เสนอแนะว่าอาจจำเป็นต้องมีกฎหมายควบคุมเพื่อป้องกันการแข่งขันลดทอนมาตรฐานความปลอดภัยในกลุ่มห้องปฏิบัติการ AI

สถานการณ์ปกติกระบวนการคิดตามลำดับขั้นจะแสดงขั้นตอนทั้งหมดตอนโมเดลแก้ปัญหา ถือเป็นเครื่องมือสำคัญในการตรวจสอบพฤติกรรมผิดปกติของระบบ การทำงานของ opaque recurrence ประมวลผลคำสั่งเดิมซ้ำหลายรอบในรูปแบบลูป ทิ้งร่องรอยให้อ่านเข้าใจน้อยลงและหลีกเลี่ยงการบันทึกกระบวนการคิดแบบเดิม Ryan Greenblatt ตำแหน่งหัวหน้านักวิทยาศาสตร์ของ Redwood Research มองว่าการขยายสเกลการให้เหตุผลแบบซ่อนเร้นจะย้ายการประมวลผลทั้งหมดไปอยู่ในพื้นที่แฝงและหลบเลี่ยงช่องทางตรวจสอบแบบเดิม

ปัจจุบันการใช้งานเทคนิคดังกล่าวใน Astra ยังอยู่ในวงจำกัด คาดว่ากระบวนการคิดยังคงอ่านทำความเข้าใจตามปกติ Jakub Pachocki ตำแหน่งหัวหน้านักวิทยาศาสตร์ของ OpenAI ยืนยันว่าห้องปฏิบัติการให้ความสำคัญกับการรักษาระบบตรวจสอบกระบวนการคิดมาตั้งแต่โมเดลแรกเริ่ม การตรวจสอบประเด็นนี้ถือเป็นเป้าหมายหลักในโครงการวิจัยปัจจุบันของ OpenAI

ทุกโมเดล AI มีการให้เหตุผลแบบซ่อนเร้นในปริมาณหนึ่งอยู่แล้ว แต่ความกังวลยังคงอยู่เมื่อเทคนิคนี้ถูกนำไปใช้แพร่หลายมากขึ้น รายงานเพิ่มเติมระบุว่าองค์กรอื่นอย่าง Anthropic และ Google DeepMind กำลังหารือเกี่ยวกับการใช้เทคนิคการประมวลผลแบบเดียวกันในระบบของตนเองเช่นกัน

ที่มา: TechCrunch