Anthropic ตัดสินใจเพิ่มลายน้ำที่มองไม่เห็นลงในข้อความที่สร้างจาก Claude เพื่อระบุว่าเนื้อหาดังกล่าวถูกสร้างขึ้นจาก AI หรือไม่ นโยบายใหม่นี้เป็นการปฏิบัติตามกฎ EU AI Act’s Transparency Code (กฎหมายความโปร่งใสด้านปัญญาประดิษฐ์ของสหภาพยุโรป) บังคับให้องค์กรเทคโนโลยีต้องทำเครื่องหมายกำกับเนื้อหาที่ AI สร้างหรือแก้ไข เพื่อให้ระบบคอมพิวเตอร์สามารถตรวจสอบต้นทาง

การเปลี่ยนแปลงนี้สร้างความไม่พอใจให้กับกลุ่มผู้ใช้งานบางส่วนบนแพลตฟอร์ม Reddit ผู้ใช้งานชื่อ visionode มองว่าระบบลายน้ำจะส่งผลกระทบต่อผู้ใช้งานทั่วไป เช่น นักเรียนที่นำข้อความไปจัดเรียงใหม่ นักข่าวที่สั่งให้ AI สรุปบทสัมภาษณ์ หรือนักเขียนที่ขอคำพ้องความหมาย บุคคลเหล่านี้จะถูกประทับตราดิจิทัลบนผลงานทันทีเมื่อนำเนื้อหาไปใช้งาน

บทความต้นฉบับตั้งข้อสังเกตว่าตัวอย่างการใช้งานเหล่านี้สะท้อนพฤติกรรมที่ไม่เหมาะสมทางจริยธรรม การคัดลอกบทสรุปหรือข้อความไปส่งเป็นผลงานตัวเองแบบตรงๆ ถือเป็นการกระทำผิดจรรยาบรรณ ผู้ใช้งาน Reddit รายอื่นร่วมแสดงความเห็นโต้แย้งกลุ่มคนที่ไม่พอใจ ชี้แจงว่าจุดประสงค์ของลายน้ำไม่ใช่เพื่ออ้างสิทธิ์ความเป็นเจ้าของผลงาน แต่เพื่อตรวจจับและป้องกันความเสี่ยงจากการนำเนื้อหาไปใช้อย่างผิดวัตถุประสงค์

ผู้ใช้งานอีกกลุ่มวิพากษ์วิจารณ์ว่าการใส่ลายน้ำเป็นความย้อนแย้งอย่างรุนแรง Anthropic พัฒนาโมเดลภาษาจากการรวบรวมข้อมูลผลงานของผู้อื่นมาใช้ฝึกสอนระบบ แต่กลับสร้างลายน้ำเพื่อตรวจสอบเนื้อหาของตัวเอง อย่างไรก็ตาม ความคิดเห็นส่วนใหญ่มองว่าระบบตรวจจับข้อมูลจากอัลกอริทึมเป็นเรื่องสมเหตุสมผล และเหตุผลเดียวที่คนต่อต้านลายน้ำคือความต้องการนำผลงานไปหลอกลวงผู้อื่น

การใส่ลายน้ำในข้อความ หรือเรียกว่า Statistical Watermarking (ลายน้ำทางสถิติ) คือวิธีที่ AI ฝังจุดที่มองไม่เห็นลงในข้อความตั้งแต่ขั้นตอนการสร้าง โดยปรับ ความน่าจะเป็นในการเลือกคำหรือลำดับ Token บางส่วนอย่างมีรูปแบบ ให้เกิดลักษณะทางสถิติที่แตกต่างจากข้อความทั่วไปเล็กน้อย ซึ่งคนอ่านแทบแยกไม่ออก แต่ระบบที่รู้วิธีตรวจสอบสามารถวิเคราะห์ข้อความจำนวนมากแล้วดูได้ว่ารูปแบบดังกล่าวมีความเป็นไปได้สูงพอที่จะเป็นลายน้ำของ AI หรือไม่ ดังนั้นมันจึง ไม่ใช่ตัวอักษรลับหรือข้อมูลที่ซ่อนอยู่ในข้อความ แต่เป็น “รูปแบบทางสถิติ” ที่ฝังอยู่ในวิธีการเลือกคำ

ที่มา: TechCrunch