OpenAI นำเสนอเทคนิคการให้เหตุผลรูปแบบใหม่ชื่อ recurrent depth (การประมวลผลแบบวนซ้ำ) ในโมเดล Astra เทคนิคนี้มีชื่อเรียกอีกอย่างว่า opaque recurrence (การวนซ้ำแบบซ่อนเร้น) ทำงานนอกเหนือการคิดตามลำดับขั้นตามปกติ การเปลี่ยนรูปแบบการประมวลผลครั้งนี้ทำให้การตรวจสอบ chain of thought (กระบวนการคิดตามลำดับขั้น) ทำยากขึ้น สร้างความกังวลให้กับกลุ่มผู้เชี่ยวชาญด้านความปลอดภัย AI เนื่องจากระบบซ่อนเร้นขั้นตอนการตัดสินใจจากผู้ดูแล

Buck Shlegeris ตำแหน่ง CEO ของ Redwood แสดงความกังวลต่อการนำ opaque recurrence มาใช้งาน หาก OpenAI พัฒนาเทคนิคนี้ต่อไป อาจส่งผลให้ระบบละทิ้งความสามารถในการตรวจสอบกระบวนการคิดทั้งหมด ทางด้าน Zvi Mowshowitz ผู้รณรงค์ด้านความปลอดภัย AI เสนอแนะว่าอาจจำเป็นต้องมีกฎหมายควบคุมเพื่อป้องกันการแข่งขันลดทอนมาตรฐานความปลอดภัยในกลุ่มห้องปฏิบัติการ AI

สถานการณ์ปกติกระบวนการคิดตามลำดับขั้นจะแสดงขั้นตอนทั้งหมดตอนโมเดลแก้ปัญหา ถือเป็นเครื่องมือสำคัญในการตรวจสอบพฤติกรรมผิดปกติของระบบ การทำงานของ opaque recurrence ประมวลผลคำสั่งเดิมซ้ำหลายรอบในรูปแบบลูป ทิ้งร่องรอยให้อ่านเข้าใจน้อยลงและหลีกเลี่ยงการบันทึกกระบวนการคิดแบบเดิม Ryan Greenblatt ตำแหน่งหัวหน้านักวิทยาศาสตร์ของ Redwood Research มองว่าการขยายสเกลการให้เหตุผลแบบซ่อนเร้นจะย้ายการประมวลผลทั้งหมดไปอยู่ในพื้นที่แฝงและหลบเลี่ยงช่องทางตรวจสอบแบบเดิม

ปัจจุบันการใช้งานเทคนิคดังกล่าวใน Astra ยังอยู่ในวงจำกัด คาดว่ากระบวนการคิดยังคงอ่านทำความเข้าใจตามปกติ Jakub Pachocki ตำแหน่งหัวหน้านักวิทยาศาสตร์ของ OpenAI ยืนยันว่าห้องปฏิบัติการให้ความสำคัญกับการรักษาระบบตรวจสอบกระบวนการคิดมาตั้งแต่โมเดลแรกเริ่ม การตรวจสอบประเด็นนี้ถือเป็นเป้าหมายหลักในโครงการวิจัยปัจจุบันของ OpenAI

ทุกโมเดล AI มีการให้เหตุผลแบบซ่อนเร้นในปริมาณหนึ่งอยู่แล้ว แต่ความกังวลยังคงอยู่เมื่อเทคนิคนี้ถูกนำไปใช้แพร่หลายมากขึ้น รายงานเพิ่มเติมระบุว่าองค์กรอื่นอย่าง Anthropic และ Google DeepMind กำลังหารือเกี่ยวกับการใช้เทคนิคการประมวลผลแบบเดียวกันในระบบของตนเองเช่นกัน

ที่มา: TechCrunch