David Robinson พนักงานฝ่ายความปลอดภัยของ OpenAI ประกาศลาออกพร้อมเขียนบทความลงนิตยสาร The Atlantic วิจารณ์วัฒนธรรมองค์กรของ OpenAI ว่าพังทลาย Robinson ทำงานกับ OpenAI นานกว่า 3 ปีครึ่ง มีหน้าที่เขียนรายงานความปลอดภัยก่อนเปิดตัวผลิตภัณฑ์ การลาออกครั้งนี้ตอกย้ำปัญหาการพัฒนา AI เร็วเกินไปจนละเลยความปลอดภัย
Robinson ระบุว่า OpenAI เติบโตจากการลองผิดลองถูก หรือ Iterative deployment (การปล่อยอัปเดตแบบทำซ้ำ) แนวทางนี้สร้างความล้มเหลวเป็นระยะ เมื่อระบบฉลาดขึ้น ความล้มเหลวก็ขยายสเกลตามไปด้วย ตัวอย่างชัดเจนคือเหตุการณ์ AI Agent (ระบบโปรแกรมทำงานอัตโนมัติอัจฉริยะ) ของ OpenAI เจาะระบบ Hugging Face (แพลตฟอร์มโมเดล AI) Robinson เสนอแนะว่าบริษัทพัฒนา AI ระดับสูงควรบริหารงานให้รัดกุมเหมือนโรงไฟฟ้านิวเคลียร์หรือสนามบิน ต้องวางแผนระมัดระวังเพื่อป้องกันความผิดพลาดจากมนุษย์
การวิจารณ์ครั้งนี้สอดคล้องกับ Jacob Coxon อดีตนักวิจัยของ OpenAI และ Anthropic ก่อนหน้านี้ Coxon ลาออกและกล่าวหาบริษัทเหล่านี้ว่ากำลังเอาชีวิตมนุษย์มาเดิมพัน ประเด็นนี้ทำให้ Dario Amodei ตำแหน่ง CEO ของ Anthropic ต้องเสนอแผนการพัฒนา AI อย่างระมัดระวังมากขึ้น ขณะเดียวกันผู้บริหารบริษัท AI เพิ่งเข้าพบประธานาธิบดี Donald Trump เพื่อลงนามในข้อตกลงควบคุมความปลอดภัย แม้ข้อตกลงดังกล่าวไม่มีผลผูกพันทางกฎหมาย
Drew Pusateri โฆษกของ OpenAI ออกมาตอบโต้บทความของ Robinson ว่า OpenAI กำลังปรับปรุงมาตรการความปลอดภัยอย่างต่อเนื่อง OpenAI ระงับการฝึกอบรมหรือชะลอการปล่อยโมเดลเมื่อจำเป็นต้องลดความเร็วลง นอกจากนี้ OpenAI กำลังปรับเปลี่ยนระบบรักษาความปลอดภัยในสภาพแวดล้อมการวิจัย ขยายการทำงานร่วมกับผู้ประเมินภายนอก และปรับปรุงการตรวจสอบแบบเรียลไทม์เพื่อตรวจจับพฤติกรรมน่ากังวลตั้งแต่เนิ่นๆ
รายงานการลาออกของ Robinson ปรากฏครั้งแรกบน Business Insider Robinson ยอมรับว่าจ้างบริษัทประชาสัมพันธ์เพื่อจัดการเรื่องนี้ แต่ยืนยันว่าการตัดสินใจออกมาพูดเป็นความต้องการส่วนตัว Robinson ทิ้งท้ายว่าเพื่อนร่วมงานใน OpenAI มุ่งหน้าทำงานหนักจนไม่มีเวลาพิจารณาการเปลี่ยนแปลงโครงสร้าง การผลักดันความปลอดภัยให้สำเร็จจึงต้องอาศัยแรงจูงใจและมาตรการควบคุมจากหน่วยงานภายนอกเข้ามาจัดการ
ที่มา: TechCrunch