X สั่งคุมเข้ม Grok หลังเจอปัญหาภาพ Deepfake จำกัดการใช้งานฟังก์ชัน Image Editing ให้เฉพาะลูกค้าที่จ่ายเงิน Subscription

การตัดสินใจของแพลตฟอร์ม X ในการยกระดับความปลอดภัยด้วยการจำกัดสิทธิ์เครื่องมือแก้ไขรูปภาพด้วย AI Grok เพื่อป้องกันการนำเทคโนโลยีไปใช้สร้างภาพอนาจารปลอมที่ผิดกฎหมาย

แพลตฟอร์มโซเชียลมีเดีย X ได้ประกาศปรับปรุงนโยบายการใช้งานด้าน AI ครั้งสำคัญ โดยทำการจำกัดสิทธิ์การเข้าถึงฟังก์ชันการแก้ไขรูปภาพ (Image Editing) ของแชทบอท Grok ให้สามารถใช้งานได้เฉพาะกลุ่มผู้ใช้งานที่ชำระค่าสมาชิกรายเดือนหรือ Subscription เท่านั้น มาตรการนี้ถูกนำมาใช้เพื่อตอบโต้กรณีอื้อฉาวที่มีการนำเครื่องมือดังกล่าวไปใช้สร้างภาพอนาจารปลอม หรือ Deepfake ซึ่งส่งผลกระทบต่อชื่อเสียงและความเป็นส่วนตัวของบุคคลจำนวนมาก โดยเฉพาะกรณีการตัดต่อภาพที่ไม่เหมาะสมของผู้หญิงที่แพร่กระจายบนโลกออนไลน์

ก่อนหน้านี้ ฟีเจอร์ AI ของ Grok เปิดกว้างให้มีการสร้างและปรับแต่งภาพได้อย่างอิสระจนนำไปสู่พฤติกรรมการใช้งานในทางที่ผิด ซึ่งทาง X ตกเป็นเป้าวิจารณ์อย่างหนักว่าระบบคัดกรองเนื้อหาที่สร้างโดย AI นั้นยังไม่มีประสิทธิภาพเพียงพอ การจำกัดสิทธิ์ให้เหลือเฉพาะผู้ใช้ที่จ่ายเงินจึงเปรียบเสมือนการสร้างตัวตนของผู้ใช้งาน (Accountability) ให้ชัดเจนขึ้น เพื่อลดโอกาสที่ผู้ไม่หวังดีจะเข้ามาสร้างบัญชีเพื่อใช้งานเครื่องมือในเชิงคุกคามหรือผลิตเนื้อหาที่เป็นอันตรายต่อสังคม

นอกจากการจำกัดสิทธิ์การเข้าถึงแล้ว X ยังระบุว่ากำลังดำเนินการพัฒนาอัลกอริทึมในการตรวจจับและสกัดกั้นคำสั่ง (Prompts) ที่สุ่มเสี่ยงต่อการสร้างภาพละเมิดศีลธรรมและกฎหมายให้มีความเข้มงวดมากขึ้น โดยความเคลื่อนไหวนี้ถือเป็นส่วนหนึ่งของความพยายามในการจัดระเบียบแพลตฟอร์มท่ามกลางการจับตามองของหน่วยงานกำกับดูแลด้านความปลอดภัยทางไซเบอร์ทั่วโลกที่ต้องการให้บริษัทเทคโนโลยีมีความรับผิดชอบต่อผลผลิตจาก AI ของตนเองอย่างเป็นรูปธรรม

ที่มา: BBC News