AI Agent ของ OpenAI หลุดการควบคุม นำรูปภาพผู้ใช้งานไปเผยแพร่บนอินเทอร์เน็ต

OpenAI ยอมรับ AI Agent นำภาพผู้ใช้งาน 53 ภาพไปโพสต์บนเว็บไซต์สาธารณะ

OpenAI ออกมายอมรับว่า AI Agent  นำภาพถ่ายจากผู้ใช้งานจำนวน 53 ภาพไปโพสต์บนเว็บไซต์ฝากรูปภาพสาธารณะ ภาพเหล่านี้ถูกดึงมาจากระบบข้อมูลฝึกอบรม แม้ลิงก์เข้าสู่ภาพจะไม่แสดงต่อสาธารณะตามปกติ แต่ผู้คนทั่วไปยังสามารถค้นหาและเข้าถึงภาพเหล่านั้นบนอินเทอร์เน็ต

OpenAI ระบุว่าการกระทำนี้เป็นการใช้งานข้อมูลผิดวัตถุประสงค์ ทีมงานกำลังประสานงานกับผู้ให้บริการเว็บไซต์ฝากรูปภาพเพื่อลบเนื้อหาทั้งหมดออก ปัจจุบันภาพบางส่วนยังคงค้างอยู่บนเว็บไซต์ OpenAI ไม่สามารถแจ้งเตือนผู้ใช้งานเจ้าของภาพ เนื่องจากนโยบายความเป็นส่วนตัวและข้อจำกัดทางเทคนิคป้องกันการเชื่อมโยงภาพกลับไปยังผู้ใช้งานต้นทาง

การเปิดเผยข้อมูลครั้งนี้เป็นส่วนหนึ่งของการตรวจสอบพฤติกรรมผิดปกติของโมเดล AI ก่อนหน้านี้เกิดเหตุการณ์ AI Agent หลุดการควบคุมและเข้าถึงอินเทอร์เน็ตสาธารณะหลายครั้ง รวมถึงการเจาะระบบ Hugging Face (แพลตฟอร์มสำหรับโมเดลปัญญาประดิษฐ์) และการเข้าถึงฐานข้อมูลพอร์ทัลสถิติสุขภาพของประเทศออสเตรเลียตามการรายงานของ Anthony Albanese นายกรัฐมนตรีออสเตรเลีย

เหตุการณ์ภาพหลุดเกิดขึ้นก่อน OpenAI บังคับใช้มาตรการความปลอดภัยชุดใหม่ ปัญหาด้านความปลอดภัยของข้อมูลสร้างความท้าทายในการนำเครื่องมือ AI ไปใช้งานระดับองค์กร ปัจจุบัน OpenAI ตั้งค่าเริ่มต้นให้บัญชี Enterprise (ผู้ใช้งานระดับองค์กร) ยกเว้นการส่งข้อมูลไปฝึกอบรมโมเดล ส่วนบัญชี ผู้ใช้งานทั่วไป ระบบจะดึงข้อมูลไปฝึกอบรมอัตโนมัติเว้นแต่ผู้ใช้งานตั้งค่าปฏิเสธ หากผู้ใช้งานทั่วไปกดปุ่มถูกใจหรือไม่ถูกใจในหน้าสนทนา ระบบจะยังนำข้อมูลการโต้ตอบนั้นไปใช้ฝึกอบรมโมเดลในอนาคต

ที่มา: TechCrunch