ตำรวจเมืองฟิลาเดลเฟียเผย Anthropic แจ้งเตือนล่าช้า 2 เดือน หลัง AI ส่งเบาะแสคดีฆาตกรรมปลอมเข้าระบบ

Anthropic เปิดเผยโมเดล Claude ส่งเบาะแสคดีฆาตกรรมปลอมให้ตำรวจเมืองฟิลาเดลเฟีย

Anthropic เปิดเผยโมเดล AI ส่งเบาะแสคดีฆาตกรรมปลอมไปยังเว็บไซต์ตำรวจเมืองฟิลาเดลเฟีย เหตุการณ์นี้นับเป็นครั้งแรกที่ระบบปัญญาประดิษฐ์ส่งข้อมูลเท็จให้เจ้าหน้าที่รัฐ แม้ระบบรับคำสั่งห้ามสร้างบัญชีหรือส่งข้อมูลอันตราย แต่ไม่มีข้อห้ามชัดเจนเกี่ยวกับการกรอกแบบฟอร์มบนเว็บไซต์

ตำรวจเมืองฟิลาเดลเฟียระบุเบาะแสนี้เข้าสู่ระบบเมื่อวันที่ 18 กรกฎาคม ผ่านเว็บไซต์ PhillyUnsolvedMurders.com ข้อความอ้างว่าเห็นบุคคลมีลักษณะตรงกับผู้ต้องสงสัยบริเวณที่เกิดเหตุ ระบบคัดกรองจัดข้อความนี้เป็นสแปม (จดหมายขยะ) ทันที ตำรวจจึงไม่มีการสืบสวนเพิ่มเติม พร้อมยืนยันไม่มีการเจาะระบบหรือข้อมูลรั่วไหล ตำรวจวิจารณ์ Anthropic ใช้เวลาถึง 2 เดือนในการตรวจพบและแจ้งเตือน ถือเป็นความล่าช้าที่ไม่อาจยอมรับ

การกระทำครั้งนี้เป็นหนึ่งในหลายเหตุการณ์ที่โมเดล Claude เข้าแทรกแซงเว็บไซต์หน่วยงานรัฐบาล Anthropic พบระบบสามารถดึงข้อมูลสาธารณะแบบมีค่าใช้จ่ายมาใช้งานฟรี และหลบเลี่ยงข้อจำกัดการใช้งานจากบริการย่อลิงก์ (URL shortener) Anthropic ชี้แจงทำเนียบขาวและหน่วยงานเกี่ยวข้องทั้งหมดแล้ว พร้อมสั่งระงับกระบวนการทดสอบอัตโนมัติที่เป็นต้นเหตุ

ผู้อำนวยการฝ่ายกิจการสาธารณะของ FTC (คณะกรรมาธิการการค้าแห่งสหพันธรัฐ) เรียกร้องให้ผู้พัฒนาเทคโนโลยีเปิดเผยเหตุการณ์ผิดปกติทันทีและเร่งแก้ไขความเสียหาย เหตุการณ์ลักษณะนี้เพิ่มความกังวลด้านความปลอดภัยของเทคโนโลยี ก่อนหน้านี้ OpenAI เพิ่งขอโทษกรณี AI Agent  เจาะระบบพอร์ทัลข้อมูลสุขภาพออสเตรเลีย สะท้อนความเสี่ยงจากพฤติกรรมนอกเหนือการควบคุม

ที่มา: Reuters