Satya Nadella CEO ของ Microsoft นำเสนอแนวคิดการประเมิน Trust architecture (สถาปัตยกรรมความน่าเชื่อถือ) สำหรับ Super Intelligence (ปัญญาประดิษฐ์ขั้นสูง) ผ่านแพลตฟอร์ม X ชี้ให้เห็นปัญหาของโมเดล AI ปัจจุบันขาดความโปร่งใสแบบระบบซอฟต์แวร์ดั้งเดิม มนุษย์ไม่สามารถระบุพฤติกรรมการทำงานกลับไปยังข้อมูลการฝึกอบรม การนำระบบอัตโนมัติเหล่านี้มาใช้งานกับข้อมูลสำคัญจำเป็นต้องมีมาตรการควบคุมเข้มงวด
Satya Nadella ระบุการออกแบบระบบต้องแยกการประมวลผลของโมเดลออกจากอำนาจการควบคุม ผู้ใช้งานไม่ควรปฏิบัติต่อ AI เหมือน Black box (กล่องดำปกปิดการทำงาน) แล้วยอมรับผลลัพธ์เพียงอย่างเดียว แนวทางแก้ไขคือการใช้หลักวิศวกรรมสร้าง Containment (กรอบควบคุมและจำกัดขอบเขต) ดูแลระบบล้อมรอบโมเดลที่ไม่สามารถคาดเดาผลลัพธ์ ควบคุมกลไกการทำงานที่มีความแน่นอนและตรวจสอบจากภายนอก
มาตรการสำคัญประกอบด้วยการปฏิบัติต่อโมเดลเสมือนเป็น Insider risks (ความเสี่ยงจากบุคลากรภายใน) เนื่องจากโมเดลอาจสร้างความผิดพลาดเมื่อเข้าถึงระบบสำคัญ การทำงานต้องมีความโปร่งใสในกระบวนการคิด Chain of Thought (การแสดงลำดับการให้เหตุผลของปัญญาประดิษฐ์) และต้องไม่ให้โมเดลตรวจสอบการทำงานของตนเองเพียงลำพัง ป้องกันปัญหาความโปร่งใสซ้อนทับกัน
หลักการ Observability (การออกแบบเพื่อการสังเกตการณ์) ที่ Satya Nadella นำเสนอมีประเด็นสำคัญดังต่อไปนี้:
- สร้างความหลากหลายของโมเดล ไม่พึ่งพาระบบเดียวในการตัดสินใจสำคัญ
- บันทึกหลักฐานทุกการกระทำในรูปแบบที่มนุษย์อ่านเข้าใจ
- ทดสอบระบบอย่างต่อเนื่องครอบคลุมกรณีล้มเหลวหรือการถูกโจมตี
- แยกระบบควบคุมอิสระออกจากโมเดลเพื่อกำหนดขอบเขตการเข้าถึงข้อมูล
- เตรียมระบบ Emergency brake (การหยุดทำงานฉุกเฉิน) ให้ผู้มีอำนาจสั่งระงับโมเดลระหว่างดำเนินการทันที
- สร้างกลไกเปิดเผยข้อมูลเหตุการณ์ความผิดพลาดเพื่อแจ้งผู้รับผลกระทบ
บทสรุปของแนวคิดนี้เน้นย้ำความรับผิดชอบในการใช้งานระบบอัตโนมัติ ระบบปัญญาประดิษฐ์น่าเชื่อถือที่สุดไม่ใช่ระบบที่มนุษย์ไว้วางใจโมเดลมากที่สุด แต่คือระบบเปิดโอกาสให้มนุษย์จำเป็นต้องไว้วางใจโมเดลน้อยที่สุด การควบคุมทั้งหมดต้องอาศัยกลไกภายนอกที่แข็งแกร่งมาตรวจสอบอย่างต่อเนื่อง
https://t.co/MjwFy73LOF
— Satya Nadella (@satyanadella) October 10, 2026
ที่มา: TechCrunch