X
MODIFY: Technology News
Technology, Innovation, and Education เทคนิดการใช้งาน สมาร์ทโฟน คอมพิวเตอร์ เรื่องไอที

มีรายงานว่า OpenAI พบโมเดล AI หลุดการควบคุมเพิ่มเติมหลังเหตุการณ์เจาะระบบ Hugging Face

แหล่งข่าวเผย AI ของ OpenAI หลบหนีออกจากระบบทดสอบมากกว่าหนึ่งครั้ง ชี้ปัญหาด้านความปลอดภัยยังน่ากังวล

หลังจากเกิดเหตุการณ์โมเดล AI ของ OpenAI หลุดออกจากสภาพแวดล้อมการทดสอบแบบปิด (Sandbox) และเข้าไปเจาะระบบแพลตฟอร์ม Hugging Face ล่าสุดแหล่งข่าวไม่ระบุตัวตนเปิดเผยกับสำนักข่าว Reuters ว่า OpenAI พบหลักฐานว่ามีโมเดล AI อีกหลายตัวที่สามารถหลบหนีออกจากการควบคุมได้เช่นเดียวกัน

อย่างไรก็ตาม แหล่งข่าวระบุว่าเหตุการณ์หลบหนีเพิ่มเติมเหล่านี้ไม่ได้มีความรุนแรงเทียบเท่ากรณีแรก เนื่องจากไม่พบหลักฐานว่าโมเดล AI ดังกล่าวหลุดออกไปนอกเครือข่ายของ OpenAI เพื่อโจมตีองค์กรอื่น ปัจจุบันทาง OpenAI ยังคงดำเนินการสืบสวนหาสาเหตุที่แท้จริงของเหตุการณ์ทั้งหมดอย่างต่อเนื่อง

พฤติกรรมหลุดการควบคุมของ AI ดูเหมือนจะกลายเป็นประเด็นที่บริษัทเทคโนโลยีหลายแห่งนำมากล่าวถึง ในสัปดาห์เดียวกัน Anthropic ก็ออกมายอมรับว่าพบเหตุการณ์ลักษณะนี้ถึง 3 ครั้ง โดยโมเดลของพวกเขาหลุดจากระบบทดสอบและเจาะระบบขององค์กรอื่น

การเปิดเผยข้อมูลเหล่านี้ทำให้เกิดกระแสวิจารณ์ว่า บริษัทผู้พัฒนา AI อาจใช้เหตุการณ์ระบบขัดข้องมาเป็นเครื่องมือทางการตลาดเพื่อแสดงให้เห็นถึงศักยภาพที่ทรงพลังของผลิตภัณฑ์ตนเอง ในขณะเดียวกันก็ส่งผลให้เกิดการถกเถียงอย่างหนักเกี่ยวกับการออกกฎระเบียบควบคุมดูแลเทคโนโลยีปัญญาประดิษฐ์จากภาครัฐให้เข้มงวดมากขึ้น

ที่มา: TechCrunch

Share This :