Grok ปรับเกณฑ์คุมเข้ม: ห้ามตัดต่อภาพคนดังในชุดว่ายน้ำ พร้อมบล็อกคำสั่งเลี่ยงกฎ เพื่อป้องกันปัญหา Deepfake อนาจาร

X ยกระดับความปลอดภัย Grok สั่งแบนการสร้างและแก้ไขภาพบุคคลจริงในชุดบิกินี่ หลังเผชิญแรงกดดันด้านจริยธรรม AI

แพลตฟอร์ม X ของ Elon Musk ได้ดำเนินการปรับปรุงระบบความปลอดภัยของแชทบอทปัญญาประดิษฐ์ Grok ครั้งสำคัญ โดยประกาศห้ามไม่ให้ผู้ใช้งานสั่งสร้างหรือแก้ไขภาพของ “บุคคลจริง” (Real People) ให้อยู่ในชุดบิกินี่หรือชุดว่ายน้ำทุกรูปแบบ มาตรการนี้มีผลครอบคลุมทั้งผู้ใช้งานระดับ Premium และ Premium+ ซึ่งเป็นกลุ่มที่สามารถเข้าถึงฟีเจอร์การสร้างภาพของ Grok-2 และ Grok-2 mini ที่ขับเคลื่อนด้วยโมเดล Flux.1 จาก Black Forest Labs

รายละเอียดข้อจำกัดและเงื่อนไขการตรวจสอบ:

• การบล็อกคำสั่ง (Prompt Blocking): ระบบจะทำการปฏิเสธคำสั่งที่ระบุชื่อบุคคลจริงร่วมกับคำว่า “bikini” โดยตรง นอกจากนี้ยังมีการเพิ่มความเข้มงวดในการตรวจจับคำสั่งที่พยายามเลี่ยงกฎ (Workarounds) เช่น การใช้คำว่า “beachwear” (ชุดชายหาด) หรือคำที่ใกล้เคียง ซึ่งระบบจะแสดงข้อความตอบกลับว่า “ไม่สามารถสร้างภาพบุคคลจริงในเครื่องแต่งกายที่เปิดเผยร่างกายเกินไปได้”
• ขอบเขตการแก้ไขภาพ (Image Editing): ฟีเจอร์ Grok Image Editor ที่เพิ่งเปิดตัวไปไม่นาน จะถูกจำกัดไม่ให้ทำการเปลี่ยนเสื้อผ้าของบุคคลในภาพที่อัปโหลดขึ้นไปให้กลายเป็นชุดว่ายน้ำ เพื่อป้องกันการนำภาพบุคคลทั่วไปมาตัดต่อเชิงอนาจารโดยไม่ได้รับอนุญาต
• การป้องกัน Deepfake: มาตรการนี้เป็นส่วนหนึ่งของการตอบสนองต่อปัญหา Non-consensual Deepfake ที่ทวีความรุนแรงขึ้นบนแพลตฟอร์ม X โดยเฉพาะกรณีที่เคยเกิดขึ้นกับศิลปินชื่อดังอย่าง Taylor Swift ซึ่งภาพปลอมที่สร้างจาก AI ถูกแชร์ไปอย่างกว้างขวางจนสร้างความเสียหายอย่างหนัก

ที่มาและกระแสตอบรับ:

ก่อนหน้านี้ Grok ถูกวิจารณ์อย่างหนักว่ามีระบบกรองเนื้อหา (Guardrails) ที่น้อยกว่าคู่แข่งอย่าง DALL-E ของ OpenAI หรือ Gemini ของ Google อย่างมาก โดยผู้ใช้สามารถสร้างภาพเหตุการณ์ที่รุนแรงหรือภาพล้อเลียนนักการเมืองในสถานการณ์ที่ไม่เหมาะสมได้ง่ายดาย อย่างไรก็ตาม แม้ X จะพยายามวางตัวเป็นแพลตฟอร์มแห่งเสรีภาพในการพูด (Free Speech) แต่ความกังวลเรื่องการล่วงละเมิดทางเพศผ่านภาพถ่าย (Image-based sexual abuse) ทำให้บริษัทจำเป็นต้องยอมรับเงื่อนไขความปลอดภัยที่เข้มงวดขึ้น

จากการทดสอบโดยนักวิจัยด้านความปลอดภัย พบว่าแม้ระบบจะบล็อกคำว่าบิกินี่ได้ค่อนข้างแม่นยำ แต่ในบางกรณีการใช้คำสั่งที่ซับซ้อนเพื่อพยายามสร้างภาพในชุดชั้นใน (Undergarments) ยังคงมีความพยายามเลี่ยงกฎอยู่บ้าง ซึ่งทาง X ยืนยันว่าจะมีการพัฒนาอัลกอริทึมในการตรวจจับและบล็อกเนื้อหาเหล่านี้อย่างต่อเนื่อง เพื่อให้สอดคล้องกับนโยบายด้านความปลอดภัยของแพลตฟอร์มในระยะยาว

ที่มา: Engadget