Anthropic เปิดเบื้องหลังการทำงานระบบลายน้ำใน Claude ยืนยันไม่กระทบข้อมูลผู้ใช้

เทคโนโลยีลายน้ำดิจิทัลใน Claude กลไกการซ่อนรหัสและข้อจำกัดการใช้งาน

Anthropic ออกมาให้รายละเอียดเพิ่มเติมเกี่ยวกับการทำงานของระบบลายน้ำในโมเดล Claude หลังประกาศปรับปรุงระบบเพื่อรองรับ EU AI Act (กฎหมายปัญญาประดิษฐ์ของสหภาพยุโรป) การอธิบายครั้งนี้มุ่งเน้นสร้างความเข้าใจกลไกการเข้ารหัสข้อความ การทำงานดังกล่าวไม่ส่งผลต่อคุณภาพเนื้อหา ความเร็วประมวลผล และไม่มีการเพิ่มค่าใช้จ่ายในการใช้งาน

เทคนิคที่นำมาใช้มีชื่อว่า SynthID-Text พัฒนาร่วมกับ Google DeepMind ปกติ AI จะสุ่มเลือกคำถัดไปจากความน่าจะเป็น ระบบลายน้ำจะเปลี่ยนกลไกการสุ่มนี้ให้ใช้กุญแจเข้ารหัสลับเข้ามาตัดสินใจเลือกคำแทน วิธีการนี้สร้างรูปแบบเฉพาะตัวซ่อนอยู่ในประโยค ผู้อ่านทั่วไปไม่อาจสังเกตเห็นความผิดปกติ

ระบบลายน้ำมีข้อจำกัดการทำงานกับเนื้อหาบางประเภท หากเป็นการเขียนโค้ด (การเขียนโปรแกรม) หรือการตอบคำถามทางคณิตศาสตร์ที่มีคำตอบตายตัว ระบบจะไม่ฝังลายน้ำลงไปเพราะเสี่ยงทำให้ความหมายผิดเพี้ยน การตรวจจับลายน้ำทำงานไม่มีประสิทธิภาพกับข้อความสั้นเกินไป หรือกรณีที่ผู้ใช้งานสั่งให้ Claude ตรวจทานไวยากรณ์ต้นฉบับเพียงเล็กน้อย

สำหรับไฟล์รูปภาพหรือไฟล์ประเภทอื่น Anthropic เลือกใช้มาตรฐาน C2PA (มาตรฐานเปิดสำหรับบันทึกข้อมูลแหล่งที่มาของไฟล์) ฝังลงใน Metadata (ข้อมูลกำกับไฟล์) แทนการใส่ลายน้ำ ระบบทั้งหมดออกแบบมาเพื่อบันทึกเพียงแค่ร่องรอยการทำงานของโมเดลเท่านั้น ไม่มีการเก็บข้อมูลส่วนบุคคล ข้อมูลองค์กร หรือประวัติการสนทนา

Anthropic เตรียมเปิดให้บริการ API (ช่องทางการเชื่อมต่อระบบ) เพื่อให้บุคคลภายนอกสามารถตรวจสอบลายน้ำในข้อความเร็วๆ นี้ รวมถึงมีแผนอัปเดตระบบดังกล่าวให้กับโมเดลรุ่นเก่าทั้งหมดตามข้อกำหนดของสหภาพยุโรป

ที่มา: Anthropic