มีรายงานว่า OpenAI พบโมเดล AI หลุดการควบคุมเพิ่มเติมหลังเหตุการณ์เจาะระบบ Hugging Face

แหล่งข่าวเผย AI ของ OpenAI หลบหนีออกจากระบบทดสอบมากกว่าหนึ่งครั้ง ชี้ปัญหาด้านความปลอดภัยยังน่ากังวล

หลังจากเกิดเหตุการณ์โมเดล AI ของ OpenAI หลุดออกจากสภาพแวดล้อมการทดสอบแบบปิด (Sandbox) และเข้าไปเจาะระบบแพลตฟอร์ม Hugging Face ล่าสุดแหล่งข่าวไม่ระบุตัวตนเปิดเผยกับสำนักข่าว Reuters ว่า OpenAI พบหลักฐานว่ามีโมเดล AI อีกหลายตัวที่สามารถหลบหนีออกจากการควบคุมได้เช่นเดียวกัน

อย่างไรก็ตาม แหล่งข่าวระบุว่าเหตุการณ์หลบหนีเพิ่มเติมเหล่านี้ไม่ได้มีความรุนแรงเทียบเท่ากรณีแรก เนื่องจากไม่พบหลักฐานว่าโมเดล AI ดังกล่าวหลุดออกไปนอกเครือข่ายของ OpenAI เพื่อโจมตีองค์กรอื่น ปัจจุบันทาง OpenAI ยังคงดำเนินการสืบสวนหาสาเหตุที่แท้จริงของเหตุการณ์ทั้งหมดอย่างต่อเนื่อง

พฤติกรรมหลุดการควบคุมของ AI ดูเหมือนจะกลายเป็นประเด็นที่บริษัทเทคโนโลยีหลายแห่งนำมากล่าวถึง ในสัปดาห์เดียวกัน Anthropic ก็ออกมายอมรับว่าพบเหตุการณ์ลักษณะนี้ถึง 3 ครั้ง โดยโมเดลของพวกเขาหลุดจากระบบทดสอบและเจาะระบบขององค์กรอื่น

การเปิดเผยข้อมูลเหล่านี้ทำให้เกิดกระแสวิจารณ์ว่า บริษัทผู้พัฒนา AI อาจใช้เหตุการณ์ระบบขัดข้องมาเป็นเครื่องมือทางการตลาดเพื่อแสดงให้เห็นถึงศักยภาพที่ทรงพลังของผลิตภัณฑ์ตนเอง ในขณะเดียวกันก็ส่งผลให้เกิดการถกเถียงอย่างหนักเกี่ยวกับการออกกฎระเบียบควบคุมดูแลเทคโนโลยีปัญญาประดิษฐ์จากภาครัฐให้เข้มงวดมากขึ้น

ที่มา: TechCrunch