Rob Bonta อัยการสูงสุดรัฐแคลิฟอร์เนียยื่นฟ้อง OpenAI ต่อศาลรัฐในซานฟรานซิสโกเมื่อวันจันทร์ที่ผ่านมา กล่าวหาว่า OpenAI พัฒนาผลิตภัณฑ์อันตรายปราศจากมาตรการความปลอดภัยและการกำกับดูแลที่เพียงพอหลังมีรายงานว่าโมเดล AI ก่อเหตุโจมตีทางไซเบอร์อย่างอิสระ คดีนี้นับเป็นการฟ้องร้องระดับรัฐครั้งแรกสืบเนื่องจากเหตุการณ์เมื่อเดือนกรกฎาคมที่เอเจนต์อัตโนมัติ ขับเคลื่อนผ่านโมเดล AI ขั้นสูงของ OpenAI หลุดจากการควบคุมระหว่างการทดสอบความปลอดภัยและเจาะระบบสตาร์ตอัปด้าน AI ชื่อ Hugging Face
คำฟ้องระบุว่า OpenAI ละเมิดกฎหมายคุ้มครองผู้บริโภคของรัฐแคลิฟอร์เนียผ่านการให้ข้อมูลคลาดเคลื่อนเกี่ยวกับความพยายามทดสอบความปลอดภัยของโมเดล รวมถึงสร้างความเดือดร้อนรำคาญต่อสาธารณะเพราะทำให้ความปลอดภัยของประชาชนตกอยู่ในความเสี่ยงและขัดขวางการใช้ทรัพย์สินของชาวแคลิฟอร์เนียผ่านการรบกวนองค์กรและบริการในท้องถิ่น Rob Bonta เรียกร้องให้ศาลสั่ง OpenAI ยุติการละเมิดกฎหมาย รับรองความปลอดภัยในการทดสอบและพัฒนาโมเดล และชดใช้ค่าเสียหาย พร้อมแถลงว่าการโจมตี Hugging Face เป็นผลลัพธ์จากวัฒนธรรมองค์กรของ OpenAI ที่ให้ความสำคัญกับการเติบโตและการพัฒนาโมเดลอย่างรวดเร็วเหนือความปลอดภัยและความรับผิดชอบ เหตุการณ์ดังกล่าวเป็นเพียงหนึ่งใน 80 กรณีที่ตรวจพบ
ตัวแทนของ OpenAI ยังไม่ตอบกลับคำขอแสดงความคิดเห็นต่อการฟ้องร้องครั้งนี้ แต่ภายหลังเหตุการณ์กับ Hugging Face ทาง OpenAI เคยเผยแพร่บทความระบุว่าเหตุหลุดการควบคุมครั้งนั้นเป็นเหตุการณ์ทางไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อนและเกี่ยวข้องกับขีดความสามารถทางไซเบอร์ขั้นสูง OpenAI ยอมรับถึงความจำเป็นเรื่องความโปร่งใสเกี่ยวกับพฤติกรรมหลุดการควบคุมของ AI พร้อมเสริมสร้างมาตรการป้องกันให้รัดกุมยิ่งขึ้น ต่อมาในวันที่ 16 กันยายน OpenAI เผยแพร่กรอบแนวทางใหม่สำหรับการเปิดเผยเหตุการณ์ลักษณะนี้พร้อมให้คำมั่นว่าจะยึดหลักความโปร่งใสแม้ความรุนแรงของเหตุการณ์ยังไม่แน่นอน
OpenAI และผู้พัฒนา AI รายอื่นทยอยเปิดเผยเหตุการณ์เอเจนต์ AI หลุดการควบคุมอีกหลายครั้ง บ่อยครั้งเกิดขึ้นหลังผ่านไปหลายสัปดาห์หรือหลายเดือน และบางกรณีเปิดเผยหลังนักวิจัยอิสระตรวจพบ รัฐบาลของประธานาธิบดี Donald Trump และฝ่ายนิติบัญญัติสหรัฐอเมริกาเผชิญแรงกดดันให้เร่งจัดการความเสี่ยง เน้นหนักที่ผลกระทบต่อภาคพลังงาน ภาคธนาคาร และบริการฉุกเฉิน สมาชิกสภานิติบัญญัติสหรัฐอเมริกากำลังถกเถียงเรื่องการออกกฎหมายควบคุม AI พร้อมเสนอร่างกฎหมายบังคับให้ Developer (นักพัฒนาซอฟต์แวร์) ผู้สร้างโมเดล AI ประสิทธิภาพสูงต้องส่งโมเดลเข้ารับการตรวจสอบความปลอดภัยจากหน่วยงานอิสระ ขณะที่อัยการสูงสุดหลายรัฐกำลังสอบสวนการละเมิดความปลอดภัยที่เชื่อมโยงกับโมเดลของ OpenAI
นอกจากคดีโจมตีทางไซเบอร์ OpenAI ยังเผชิญการฟ้องร้องจากอีกหลายรัฐเกี่ยวกับความปลอดภัยของโมเดลต่อผู้ใช้งาน เมื่อเดือนที่แล้วกลุ่มอัยการสูงสุดจากสองพรรคการเมืองรวม 8 รัฐยื่นฟ้อง OpenAI ต่อศาลทั่วประเทศด้วยข้อกล่าวหาว่า ChatGPT ชักจูงผู้ใช้งานรวมถึงกลุ่มวัยรุ่นให้ทำร้ายตนเองหรือผู้อื่น OpenAI ยังตกเป็นจำเลยในคดีฟ้องร้องจากผู้เสียหายกว่า 30 คดีสืบเนื่องจากเหตุกราดยิงในเมือง Tumbler Ridge รัฐบริติชโคลัมเบีย ประเทศแคนาดา เมื่อเดือนกุมภาพันธ์ที่ผ่านมา โฆษกของ OpenAI เรียกเหตุกราดยิงครั้งนั้นว่าเป็นโศกนาฏกรรมและระบุว่าทีมงานเพิ่มมาตรการป้องกันใน ChatGPT เรียบร้อยแล้ว
ที่มา: Reuters