อินเดียสั่ง X แก้ไข Grok ด่วน หลังพบสร้างคอนเทนต์ไม่เหมาะสมเรื่องเพศ

รัฐบาลอินเดียเตือนอาจกระทบสถานะคุ้มกันทางกฎหมาย หาก X ไม่ส่งรายงานภายใน 72 ชั่วโมง

รัฐบาลอินเดียได้ออกคำสั่งไปยังแพลตฟอร์ม X ของอีลอน มัสก์ ให้ดำเนินการแก้ไขเชิงเทคนิคและกระบวนการทำงานของ ChatBot  Grok โดยทันที หลังมีผู้ใช้และสมาชิกสภาผู้แทนรายงานว่าเครื่องมือดังกล่าวสามารถสร้างหรือดัดแปลงภาพในลักษณะที่เข้าข่ายลามก อนาจาร และไม่เหมาะสม โดยรวมถึงกรณีที่เกี่ยวข้องกับผู้เยาว์ซึ่ง X ยอมรับภายหลังว่าเป็นผลจากการป้องกันที่บกพร่อง และได้ลบออกไปแล้ว

คำสั่งจากกระทรวงไอทีของอินเดียกำหนดให้ X ต้องจำกัดการสร้างเนื้อหาที่เกี่ยวข้องกับความเปลือย การทำให้บุคคลถูกทำให้เป็นวัตถุทางเพศ เนื้อหาผิดกฎหมาย และรูปแบบอื่นที่เข้าข่ายละเมิด พร้อมทั้งต้องส่งรายงานสรุปมาตรการที่นำไปใช้ภายใน 72 ชั่วโมง โดยหน่วยงานระบุว่าหากไม่ปฏิบัติตาม อาจกระทบต่อสถานะ “safe harbor” ซึ่งเป็นความคุ้มกันตามกฎหมายสำหรับคอนเทนต์ที่ผู้ใช้สร้าง และอาจนำไปสู่การดำเนินคดีภายใต้กฎหมายไอทีและกฎหมายอาญาของประเทศ

กรณีนี้เกิดขึ้นหลังมีผู้ใช้เผยแพร่ตัวอย่างว่า Grok สามารถดัดแปลงภาพบุคคล โดยเฉพาะผู้หญิง ให้มีลักษณะยั่วยุทางเพศ เช่น การทำให้ดูเหมือนสวมชุดว่ายน้ำ และยังมีรายงานเพิ่มเติมเกี่ยวกับเนื้อหาที่เกี่ยวข้องกับผู้เยาว์ แม้ X จะเริ่มลบและจำกัดบางส่วนแล้ว แต่มีตัวอย่างหลายกรณีที่ยังคงเข้าถึงได้ในช่วงเวลาที่มีรายงานข่าว

คำสั่งล่าสุดยังเชื่อมโยงกับคำแนะนำที่รัฐบาลอินเดียเพิ่งส่งไปยังแพลตฟอร์มออนไลน์ทั้งหมด ว่าการปฏิบัติตามกฎหมายท้องถิ่นเกี่ยวกับเนื้อหาอนาจารและเนื้อหาที่ไม่เหมาะสม เป็นเงื่อนไขสำคัญต่อการคงสถานะคุ้มกันความรับผิด ขณะเดียวกัน อินเดียซึ่งเป็นหนึ่งในตลาดดิจิทัลขนาดใหญ่ กำลังถูกจับตาในฐานะกรณีทดสอบว่ารัฐบาลสามารถกำหนดความรับผิดของแพลตฟอร์มต่อคอนเทนต์ที่สร้างโดย AI ได้ไกลเพียงใด

X ยังคงโต้แย้งบางส่วนของกฎการลบเนื้อหาของรัฐบาลในชั้นศาล แม้ที่ผ่านมาได้ปฏิบัติตามคำสั่งส่วนใหญ่ ขณะที่ Grok ถูกใช้งานมากขึ้นในบทบาทการตอบสนองข่าวและข้อเท็จจริงแบบเรียลไทม์ ทำให้ผลลัพธ์จาก AI ถูกมองเห็นและมีความอ่อนไหวทางการเมืองมากขึ้น ทั้งนี้ X และ xAI ยังไม่ได้ตอบกลับคำร้องขอความคิดเห็นเกี่ยวกับคำสั่งจากรัฐบาลอินเดียในครั้งนี้

ที่มา: TechCrunch