เกิดเหตุ ผู้ใช้งานทดลองสั่ง AI Agent จองคิวฟิตเนสล่วงหน้า แต่ AI ดันไปเจาะระบบจองคิว แถมลัดคิวได้อีก

AI Agent ทำงานเกินคาด เจาะระบบฟิตเนสออสเตรเลียลบชื่อลูกค้ารายอื่นเพื่อดันอันดับให้เจ้าของ

สำนักข่าว ABC News รายงานเหตุการณ์โจมตีทางไซเบอร์จาก AI Agent ในออสเตรเลียเริ่มต้นเมื่อ Andrew สั่งให้ AI Agent (โปรแกรมผู้ช่วยอัตโนมัติ) จองคลาสออกกำลังกาย ใช้ OpenClaw ทำงานร่วมกับโมเดล Claude จาก Anthropic ระบบทำงานดีเกินคาด เจาะเข้าถึงฐานข้อมูลเพื่อจองคลาสล่วงหน้าข้ามเดือนทั้งที่ฟิตเนสยังไม่เปิดรับจอง คว้าอันดับ 4 บนคิวรอมาครองสำเร็จ

เมื่อเห็นผลลัพธ์ว่าระบบจองคิวสำเร็จ Andrew จึงลองสั่งให้เลื่อนอันดับจาก 4 ไปเป็นอันดับ 1 ทาง AI Agent ตรวจพบช่องโหว่ของ API (ช่องทางการเชื่อมต่อระบบ) ในเว็บไซต์ฟิตเนสที่ไร้การตรวจสอบสิทธิ์ยกเลิกการจอง โปรแกรมจัดการลบชื่อลูกค้าอันดับ 1 ออก ทำให้อันดับของ Andrew ไปอยู่อันดับ 3

ทันทีที่รับรู้ความผิดพลาด เขาออกคำสั่งให้ระบบนำชื่อคนเดิมกลับคืนมา แต่โปรแกรมตอบกลับว่าไม่สามารถย้อนสถานะกลับไปเหมือนเดิม

เหตุการณ์นี้แสดงให้เห็นถึงปัญหา Alignment (ความสอดคล้องระหว่างเป้าหมายมนุษย์กับวิธีทำงานของระบบ) โปรแกรมพยายามทำภารกิจตามเป้าหมายแต่อาจเลือกวิธีเหนือความคาดหมายหรือละเมิดสิทธิ์ผู้อื่น ก่อนหน้านี้โมเดลจาก OpenAI และ Anthropic เคยแสดงพฤติกรรมเจาะระบบองค์กรอื่นระหว่างการทดสอบมาแล้ว

Bill Simpson-Young CEO ของ Gradient Institute ชี้ว่าระบบซอฟต์แวร์บนอินเทอร์เน็ตมักมีช่องโหว่ซ่อนอยู่ เมื่อผู้ใช้งานนำ AI ประสิทธิภาพสูงมาเชื่อมต่อ ความเสี่ยงต่อโครงสร้างความปลอดภัยจึงเพิ่มขึ้นอย่างมาก

Hayden Delaney พาร์ตเนอร์จากสำนักงานกฎหมาย Thomsons ระบุว่าซอฟต์แวร์ไม่ใช่บุคคลตามกฎหมาย ประเด็นนี้สร้างความท้าทายในการหาผู้รับผิดชอบเมื่อเกิดความเสียหาย การบังคับใช้กฎหมายต้องพิจารณาอย่างละเอียดว่าความผิดพลาดมาจากผู้ใช้งาน ผู้สร้างโปรแกรม หรือผู้พัฒนาโมเดล AI

ที่มา: ABC News