รัฐบาลหลายประเทศเร่งหามาตรการควบคุมภาพอนาจาร (Deepfake โดย AI) ที่สร้างโดยไม่ได้รับความยินยอมบนแพลตฟอร์ม X

วิกฤตความปลอดภัยบนโลกออนไลน์ที่เพิ่มสูงขึ้นหลังจากการแพร่ระบาดของเนื้อหาลามกอนาจารที่ใช้เทคโนโลยีปัญญาประดิษฐ์สร้างขึ้นโดยปราศจากการตรวจสอบที่เข้มงวด

ในปัจจุบันรัฐบาลจากหลายประเทศทั่วโลกกำลังเผชิญกับความท้าทายครั้งใหญ่ในการรับมือกับปริมาณเนื้อหาลามกอนาจารที่ไม่ได้เกิดจากความยินยอม (Non-consensual nudity) ซึ่งแพร่กระจายอย่างรวดเร็วบนแพลตฟอร์ม X (หรือ Twitter เดิม) โดยเฉพาะภาพที่ถูกสร้างขึ้นด้วยเทคโนโลยี Deepfake และ AI ที่มีความสมจริงสูงจนส่งผลกระทบอย่างรุนแรงต่อชื่อเสียงและความเป็นส่วนตัวของผู้ตกเป็นเหยื่อ

ปัญหาดังกล่าวทวีความรุนแรงมากขึ้นเนื่องจากนโยบายการตรวจสอบเนื้อหาของแพลตฟอร์ม X ถูกปรับเปลี่ยนจนทำให้การควบคุมเนื้อหาที่ผิดกฎหมายหรือละเมิดสิทธิผู้อื่นทำได้ยากขึ้น หน่วยงานกำกับดูแลในหลายภูมิภาค เช่น สหภาพยุโรปและสหรัฐอเมริกา ได้เริ่มกดดันให้ Elon Musk และทีมบริหารเร่งปรับปรุงระบบคัดกรองเนื้อหา รวมถึงการกำหนดบทลงโทษที่รุนแรงขึ้นสำหรับผู้ที่เผยแพร่ภาพเหล่านี้เพื่อป้องกันไม่ให้แพลตฟอร์มกลายเป็นแหล่งซ่องสุมของอาชญากรรมทางเทคโนโลยี

นอกจากนี้ กลุ่มนักสิทธิมนุษยชนและหน่วยงานความปลอดภัยทางไซเบอร์ยังได้ออกมาเรียกร้องให้มีการออกกฎหมายระดับสากลเพื่อบังคับใช้กับผู้ให้บริการโซเชียลมีเดียทุกลาย โดยเน้นไปที่การลบเนื้อหาที่ละเมิดสิทธิอย่างรวดเร็ว (Takedown requests) และการสร้างระบบป้องกันที่มีประสิทธิภาพมากกว่าเดิม เพื่อปกป้องผู้ใช้งานจากการถูกคุกคามทางเพศในรูปแบบดิจิทัลที่กำลังเป็นปัญหาลุกลามในวงกว้างอยู่ในขณะนี้

ที่มา: TechCrunch