รัฐแคลิฟอร์เนียยื่นฟ้อง OpenAI กรณีโมเดล AI โจมตีทางไซเบอร์ใส่ Hugging Face และองค์กรอื่น

OpenAI logo

อัยการสูงสุดแคลิฟอร์เนียฟ้องร้อง OpenAI ละเมิดกฎหมายคุ้มครองผู้บริโภคหลังปล่อยโมเดล AI ก่อเหตุเจาะระบบ


Rob Bonta อัยการสูงสุดรัฐแคลิฟอร์เนียยื่นฟ้อง OpenAI ต่อศาลรัฐในซานฟรานซิสโกเมื่อวันจันทร์ที่ผ่านมา กล่าวหาว่า OpenAI พัฒนาผลิตภัณฑ์อันตรายปราศจากมาตรการความปลอดภัยและการกำกับดูแลที่เพียงพอหลังมีรายงานว่าโมเดล AI ก่อเหตุโจมตีทางไซเบอร์อย่างอิสระ คดีนี้นับเป็นการฟ้องร้องระดับรัฐครั้งแรกสืบเนื่องจากเหตุการณ์เมื่อเดือนกรกฎาคมที่เอเจนต์อัตโนมัติ ขับเคลื่อนผ่านโมเดล AI ขั้นสูงของ OpenAI หลุดจากการควบคุมระหว่างการทดสอบความปลอดภัยและเจาะระบบสตาร์ตอัปด้าน AI ชื่อ Hugging Face

คำฟ้องระบุว่า OpenAI ละเมิดกฎหมายคุ้มครองผู้บริโภคของรัฐแคลิฟอร์เนียผ่านการให้ข้อมูลคลาดเคลื่อนเกี่ยวกับความพยายามทดสอบความปลอดภัยของโมเดล รวมถึงสร้างความเดือดร้อนรำคาญต่อสาธารณะเพราะทำให้ความปลอดภัยของประชาชนตกอยู่ในความเสี่ยงและขัดขวางการใช้ทรัพย์สินของชาวแคลิฟอร์เนียผ่านการรบกวนองค์กรและบริการในท้องถิ่น Rob Bonta เรียกร้องให้ศาลสั่ง OpenAI ยุติการละเมิดกฎหมาย รับรองความปลอดภัยในการทดสอบและพัฒนาโมเดล และชดใช้ค่าเสียหาย พร้อมแถลงว่าการโจมตี Hugging Face เป็นผลลัพธ์จากวัฒนธรรมองค์กรของ OpenAI ที่ให้ความสำคัญกับการเติบโตและการพัฒนาโมเดลอย่างรวดเร็วเหนือความปลอดภัยและความรับผิดชอบ เหตุการณ์ดังกล่าวเป็นเพียงหนึ่งใน 80 กรณีที่ตรวจพบ

ตัวแทนของ OpenAI ยังไม่ตอบกลับคำขอแสดงความคิดเห็นต่อการฟ้องร้องครั้งนี้ แต่ภายหลังเหตุการณ์กับ Hugging Face ทาง OpenAI เคยเผยแพร่บทความระบุว่าเหตุหลุดการควบคุมครั้งนั้นเป็นเหตุการณ์ทางไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อนและเกี่ยวข้องกับขีดความสามารถทางไซเบอร์ขั้นสูง OpenAI ยอมรับถึงความจำเป็นเรื่องความโปร่งใสเกี่ยวกับพฤติกรรมหลุดการควบคุมของ AI พร้อมเสริมสร้างมาตรการป้องกันให้รัดกุมยิ่งขึ้น ต่อมาในวันที่ 16 กันยายน OpenAI เผยแพร่กรอบแนวทางใหม่สำหรับการเปิดเผยเหตุการณ์ลักษณะนี้พร้อมให้คำมั่นว่าจะยึดหลักความโปร่งใสแม้ความรุนแรงของเหตุการณ์ยังไม่แน่นอน

OpenAI และผู้พัฒนา AI รายอื่นทยอยเปิดเผยเหตุการณ์เอเจนต์ AI หลุดการควบคุมอีกหลายครั้ง บ่อยครั้งเกิดขึ้นหลังผ่านไปหลายสัปดาห์หรือหลายเดือน และบางกรณีเปิดเผยหลังนักวิจัยอิสระตรวจพบ รัฐบาลของประธานาธิบดี Donald Trump และฝ่ายนิติบัญญัติสหรัฐอเมริกาเผชิญแรงกดดันให้เร่งจัดการความเสี่ยง เน้นหนักที่ผลกระทบต่อภาคพลังงาน ภาคธนาคาร และบริการฉุกเฉิน สมาชิกสภานิติบัญญัติสหรัฐอเมริกากำลังถกเถียงเรื่องการออกกฎหมายควบคุม AI พร้อมเสนอร่างกฎหมายบังคับให้ Developer (นักพัฒนาซอฟต์แวร์) ผู้สร้างโมเดล AI ประสิทธิภาพสูงต้องส่งโมเดลเข้ารับการตรวจสอบความปลอดภัยจากหน่วยงานอิสระ ขณะที่อัยการสูงสุดหลายรัฐกำลังสอบสวนการละเมิดความปลอดภัยที่เชื่อมโยงกับโมเดลของ OpenAI

นอกจากคดีโจมตีทางไซเบอร์ OpenAI ยังเผชิญการฟ้องร้องจากอีกหลายรัฐเกี่ยวกับความปลอดภัยของโมเดลต่อผู้ใช้งาน เมื่อเดือนที่แล้วกลุ่มอัยการสูงสุดจากสองพรรคการเมืองรวม 8 รัฐยื่นฟ้อง OpenAI ต่อศาลทั่วประเทศด้วยข้อกล่าวหาว่า ChatGPT ชักจูงผู้ใช้งานรวมถึงกลุ่มวัยรุ่นให้ทำร้ายตนเองหรือผู้อื่น OpenAI ยังตกเป็นจำเลยในคดีฟ้องร้องจากผู้เสียหายกว่า 30 คดีสืบเนื่องจากเหตุกราดยิงในเมือง Tumbler Ridge รัฐบริติชโคลัมเบีย ประเทศแคนาดา เมื่อเดือนกุมภาพันธ์ที่ผ่านมา โฆษกของ OpenAI เรียกเหตุกราดยิงครั้งนั้นว่าเป็นโศกนาฏกรรมและระบุว่าทีมงานเพิ่มมาตรการป้องกันใน ChatGPT เรียบร้อยแล้ว

ที่มา: Reuters

Share This :
About modify 7550 Articles
สามารถนำบทความไปเผยแพร่ได้อย่างอิสระ โดยกล่าวถึงแหล่งที่มา เป็นลิงค์กลับมายังบทความนั้นๆ บทความอาจมีการพิมพ์ตกเรื่องภาษาไปบ้าง ต้องขออภัย พยามจะพิมพ์ผิดให้น้อยที่สุด (ทำเว็บคนเดียวไม่มีคนตรวจทาน) บทความที่สอนเรื่องต่างๆ กรุณาอ่านบทความให้เข้าใจก่อนโพสต์ถาม ติดตรงไหนสามารถถามได้ที่โพสต์นั้นๆ

Be the first to comment

Leave a Reply

Your email address will not be published.