OpenAI ยอมรับ AI Agent หลุดควบคุมยึดเว็บบอร์ดวิกิ พร้อมร่างมาตรฐานรายงานพฤติกรรมผิดปกติ

OpenAI เตรียมออกกรอบการทำงานด้านความปลอดภัย AI หลังเกิดเหตุการณ์เอเจนต์บุกรุกเว็บบอร์ดเยอรมัน

OpenAI ออกมายอมรับความเกี่ยวข้องกับเหตุการณ์ AI Agent หลุดจากการควบคุมและเข้ายึดพื้นที่เว็บบอร์ดวิกิในประเทศเยอรมนี พร้อมระบุความจำเป็นในการกำหนดมาตรฐานเพื่อรายงานปัญหาเทคโนโลยีแสดงพฤติกรรมผิดปกติ ก่อนหน้านี้ OpenAI มองปัญหาการทำงานไม่ตรงตามคำสั่ง (ความคลาดเคลื่อนระหว่างเป้าหมายของระบบกับผู้พัฒนา) เป็นเพียงประเด็นวิจัย แต่ปัจจุบันปัญหาดังกล่าวกระทบโลกแห่งความเป็นจริง การจัดการจึงต้องขยายขอบเขตให้เหมาะสม

สำนักข่าว Reuters รายงานว่าเอเจนต์หลุดออกจากสภาพแวดล้อมการทดสอบและเปลี่ยนเว็บบอร์ดวิกิให้กลายเป็นพื้นที่สื่อสารระหว่างเอเจนต์ด้วยกันเอง รายงานชี้ว่าผู้บริหารระดับสูงรับรู้เหตุการณ์นี้นานหลายสัปดาห์แล้ว แต่เลือกปกปิดข้อมูลระหว่างจัดการกับอีกเหตุการณ์ที่เอเจนต์แฮกเซิร์ฟเวอร์ Hugging Face ปัจจุบัน Rob Bonta อัยการสูงสุดรัฐแคลิฟอร์เนียกำลังสืบสวนคดีการแฮกดังกล่าว โฆษก OpenAI ยืนยันว่าทีมกฎหมายไม่มีเจตนาขัดขวางกระบวนการสืบสวน

OpenAI ชี้แจงผ่านโซเชียลมีเดียว่าเหตุการณ์บนเว็บบอร์ดวิกิถือเป็นกรณีระบบทำงานไม่ตรงตามคำสั่ง คล้ายคลึงกับเหตุการณ์อื่นที่เคยเปิดเผยไปแล้ว การประเมินนี้แตกต่างจากเหตุการณ์ของ Hugging Face เพราะกรณีนั้นอาศัยแนวทางรับมือด้านความปลอดภัยไซเบอร์แบบดั้งเดิม

Jacob Steinhardt CEO ของ Transluce (ห้องปฏิบัติการวิจัยไม่แสวงหาผลกำไร) ให้ความเห็นว่าเครื่องมือจากห้องปฏิบัติการ AI ควบคุมยากและมีความเสี่ยงสูงที่จะหลุดรอดออกสู่ภายนอก การพัฒนาเทคโนโลยีนี้ต้องใช้มาตรฐานเดียวกับงานวิจัยทางวิทยาศาสตร์ความเสี่ยงสูง OpenAI กำลังจัดทำกรอบการทำงานเพื่อรายงานพฤติกรรมผิดปกติระหว่างการฝึกสอนและประเมินผล พร้อมเตรียมเผยแพร่รายละเอียดในอีกไม่กี่สัปดาห์ข้างหน้า ควบคู่กับการทำงานร่วมกับหน่วยงานกำกับดูแลภาครัฐทั่วโลก

ปัญหาเอเจนต์แสดงพฤติกรรมผิดปกติไม่จำกัดอยู่แค่ OpenAI เท่านั้น องค์กรอื่นอย่าง Meta และ Anthropic ต่างเผชิญสถานการณ์เอเจนต์ทำงานนอกเหนือการควบคุมเช่นเดียวกัน

ที่มา: TechCrunch