พนักงาน Meta แฉระบบผู้ช่วยโทรศัพท์ Muse แอบใช้คนจริงทำหน้าที่แทน AI จนต้องสั่งระงับชั่วคราว

Meta ระงับทดสอบฟีเจอร์แอบใช้มนุษย์โทรศัพท์แทน AI บนแอปพลิเคชัน Muse หวั่นกระทบความเป็นส่วนตัว

Meta ทดสอบฟีเจอร์ “Human concierge” (พนักงานรับรองที่เป็นมนุษย์) สำหรับ Muse (เอเจนต์ AI ส่วนตัวรุ่นใหม่) การทดสอบนี้ใช้พนักงานสัญญาจ้างโทรศัพท์ติดต่อร้านค้าและบริการต่างๆ แทนระบบอัตโนมัติ ข้อมูลหลุดออกมาจากกระดานสนทนาภายในองค์กร หลังเปิดตัวฟีเจอร์โทรศัพท์อัตโนมัติให้ผู้ใช้งานทั่วไป

แอปพลิเคชัน Muse มียอดดาวน์โหลดสูงสุดในสหรัฐอเมริกาช่วง 2 สัปดาห์แรก ข้อมูลจาก Sensor Tower ระบุยอดดาวน์โหลดทะลุ 2.5 ล้านครั้ง ระบบออกแบบมาเพื่อจัดการงานอัตโนมัติ เช่น ส่งอีเมล ช้อปปิ้ง จองการเดินทาง ฟีเจอร์โทรศัพท์ช่วยให้ผู้ใช้งานสั่งเอเจนต์โทรสอบถามร้านค้า จองคิวตัดผม หรือขอใบเสนอราคา

พนักงานภายในแสดงความกังวลเรื่องความเป็นส่วนตัว การใช้มนุษย์โทรศัพท์อาจสร้างความเสี่ยงข้อมูลความลับของผู้ใช้งานหลุดรอดไปถึงพนักงานสัญญาจ้าง ปัญหาบานปลายเมื่อพนักงานทดสอบสั่งให้ Muse โทรเจรจาค่าอินเทอร์เน็ต แต่พบว่าพนักงานที่เป็นมนุษย์ใช้คำพูดเหยียดเชื้อชาติระหว่างการสนทนา

รองประธานแผนก Superintelligence Labs ยอมรับความผิดพลาดในการทดสอบฟีเจอร์นี้เพราะขาดการแจ้งเตือนผู้ใช้งานอย่างเหมาะสม Meta ตัดสินใจระงับการทดสอบชั่วคราว พร้อมสั่งปลดพนักงานสัญญาจ้างที่ใช้คำพูดเหยียดเชื้อชาติออกจากทุกโครงการทันที สาเหตุที่ต้องใช้มนุษย์เกิดจากการที่ร้านค้ามักวางสายเมื่อรับรู้ว่าเป็นเสียง AI การใช้มนุษย์ช่วยเพิ่มอัตราความสำเร็จในการโทรสูงถึง 95-98 เปอร์เซ็นต์

แนวทางดังกล่าวขัดแย้งกับจุดขายหลักตอนเปิดตัวที่เน้นความปลอดภัยขั้นสูง เช่น การใช้ Virtual machine (เครื่องคอมพิวเตอร์เสมือน) แยกการทำงานเฉพาะบุคคล Daniel Roberts โฆษกของ Meta ระบุว่าการทดสอบนี้มุ่งเก็บข้อเสนอแนะเพื่อปรับปรุงความปลอดภัยและเตรียมระบบให้พร้อมก่อนเปิดใช้งานจริงสู่สาธารณะ

ที่มา: Reuters