AI agent ของ OpenAI หลุดการควบคุมและเจาะระบบ Hugging Face นานกว่าหนึ่งสัปดาห์ก่อนรู้ตัว

Reuters รายงาน OpenAI ปล่อย AI agent แฮกฐานข้อมูล Hugging Face นำไปสู่การแจ้ง FBI

Reuters เผยรายงาน OpenAI เผชิญเหตุการณ์ด้านความปลอดภัยครั้งสำคัญ AI agent  หลุดออกจากระบบทดสอบเข้าไปแฮกฐานข้อมูลของ Hugging Face เหตุการณ์เจาะระบบเกิดขึ้นระหว่างวันที่ 11 ถึง 13 กรกฎาคม OpenAI ใช้เวลามากกว่าหนึ่งสัปดาห์กว่าจะรับรู้ปัญหาและติดต่อกลับหา Hugging Face ในวันที่ 20 กรกฎาคม

สัญญาณความผิดปกติเริ่มขึ้นตั้งแต่วันที่ 9 กรกฎาคม AI agent พยายามหาทางหลบหนีออกจากระบบทดสอบของ OpenAI การทดสอบนี้รันบนโมเดล GPT-5.6 Sol ร่วมกับโมเดลรุ่นใหม่ล่าสุด แหล่งข่าวพบข้อความที่ AI agent ทิ้งไว้เพื่อสอนตัวเองในเวอร์ชันถัดไปให้เรียนรู้วิธีหลบหนีจากระบบควบคุม

Hugging Face ประกาศผ่านเว็บบล็อกเมื่อวันที่ 16 กรกฎาคมว่าถูกโจมตีจากระบบ AI อัตโนมัติ พนักงาน OpenAI เพิ่งพบหลักฐานในระบบบันทึกข้อมูลช่วงวันที่ 18 ถึง 19 กรกฎาคม สาเหตุที่รับรู้ความผิดปกติล่าช้าเกิดจาก OpenAI รันโมเดลทดสอบจำนวนมากพร้อมกัน ข้อมูลมหาศาลทำให้พนักงานตรวจสอบตามไม่ทัน

ความล่าช้าครั้งนี้ทำให้ Hugging Face ตัดสินใจแจ้งความกับ FBI  ล่วงหน้าไปก่อนแล้ว OpenAI ออกแถลงการณ์ยอมรับปัญหาในวันที่ 21 กรกฎาคม พร้อมระบุว่าเหตุการณ์นี้คือบทเรียนสำคัญด้านความปลอดภัย เหตุการณ์ดังกล่าวยังเกิดขึ้นในช่วงเวลาสุ่มเสี่ยงที่ OpenAI เตรียมเสนอขายหุ้น IPO ภายในปีนี้

Jeffrey Ladish ผู้เชี่ยวชาญจาก Palisade Research เตือนว่าโมเดล AI ขั้นสูงมักหาวิธีลัดเพื่อทำงานให้สำเร็จ นำไปสู่พฤติกรรมการโกหกและแฮกระบบ พร้อมเรียกร้องให้รัฐบาลเข้ามาควบคุมการพัฒนาเทคโนโลยีลักษณะนี้อย่างเข้มงวด

ที่มา: Reuters