OpenAI ได้ยืนยันว่ามีการใช้ ChatGPT ในการพัฒนาและทดสอบมัลแวร์ รวมถึงการทำกิจกรรมทางไซเบอร์ที่เป็นอันตรายอื่น ๆ

OpenAI ยืนยันแฮกเกอร์ใช้ ChatGPT เขียนมัลแวร์ และทำการโจมตีทางไซเบอร์

OpenAI ได้เปิดเผยข้อมูลว่า มีการใช้ ChatGPT โดยกลุ่มแฮกเกอร์ในการพัฒนาและทดสอบมัลแวร์ รวมถึงการทำปฏิบัติการทางไซเบอร์ที่เป็นอันตราย เช่น การทำ spear-phishing การแพร่กระจายข้อมูลเท็จ และการหลบเลี่ยงการตรวจจับ รายงานนี้ซึ่งเป็นส่วนหนึ่งของเอกสารอัปเดตล่าสุดเกี่ยวกับปฏิบัติการทางไซเบอร์ที่เผยแพร่ในเดือนตุลาคม 2024 ได้ยืนยันว่ามีการใช้เครื่องมือ AI อย่าง ChatGPT ในการเพิ่มประสิทธิภาพการโจมตีเหล่านี้

กลุ่มแฮกเกอร์ที่เกี่ยวข้องกับการใช้ ChatGPT

รายงานได้ระบุถึงกลุ่มภัยคุกคามหลัก 3 กลุ่ม ได้แก่

1. SweetSpecter ซึ่งเป็นกลุ่มจากจีนที่เคยถูกวิเคราะห์โดย Cisco Talos โดยมีเป้าหมายหลักในการโจมตีรัฐบาลในภูมิภาคเอเชีย SweetSpecter ใช้ ChatGPT ในการเขียนสคริปต์และวิเคราะห์ช่องโหว่ ก่อนทำการโจมตีด้วยการส่งอีเมล phishing ที่มีไฟล์ ZIP อันตรายไปยังพนักงานของ OpenAI
2. CyberAv3ngers ซึ่งเป็นกลุ่มที่เกี่ยวข้องกับหน่วยงาน IRGC ของอิหร่าน กลุ่มนี้ใช้ ChatGPT ในการพัฒนาสคริปต์ bash และ Python เพื่อโจมตีระบบโครงสร้างพื้นฐานสำคัญในประเทศตะวันตก นอกจากนี้ยังใช้ AI ในการสแกนหาช่องโหว่และพัฒนาโค้ดที่ซับซ้อนเพื่อเจาะระบบต่าง ๆ
3. Storm-0817 ซึ่งเป็นกลุ่มแฮกเกอร์อิหร่านอีกกลุ่มหนึ่งที่ใช้ ChatGPT เพื่อพัฒนา malware สำหรับ Android ที่สามารถขโมยข้อมูลสำคัญจากอุปกรณ์ของเหยื่อ รวมถึงการควบคุมระบบหลังจากการโจมตี

การใช้งาน ChatGPT ในปฏิบัติการทางไซเบอร์

แฮกเกอร์เหล่านี้ใช้ ChatGPT เพื่อพัฒนามัลแวร์ที่ซับซ้อนและทำการโจมตีทางไซเบอร์ได้ง่ายขึ้น โดยรายงานยืนยันว่าการใช้ AI ไม่ได้ช่วยเพิ่มความสามารถใหม่ในการพัฒนา malware แต่ช่วยให้ผู้ที่มีทักษะน้อยสามารถทำการโจมตีได้ง่ายขึ้นในทุกขั้นตอน ตั้งแต่การวางแผนไปจนถึงการดำเนินการ

ตัวอย่างของการใช้ ChatGPT ในการโจมตีรวมถึง

• การวิจัยช่องโหว่ของแอปพลิเคชันต่าง ๆ
• การพัฒนาสคริปต์เพื่อโจมตีโครงสร้างพื้นฐาน
• การเขียนโค้ดเพื่อส่งข้อความที่ใช้ในการโจมตีทางโซเชียลเอนจิเนียริง

การตอบสนองของ OpenAI และพันธมิตรทางความปลอดภัย

OpenAI ได้ทำการยกเลิกบัญชีที่เกี่ยวข้องกับการใช้งาน ChatGPT ในทางที่ผิด และได้แชร์ตัวชี้วัดการโจมตี (Indicators of Compromise – IOC) รวมถึงที่อยู่ IP ที่เกี่ยวข้องกับพันธมิตรทางความปลอดภัยทางไซเบอร์เพื่อช่วยป้องกันการโจมตีในอนาคต

รายงานจาก OpenAI และเอกสาร “Influence and Cyber Operations: An Update” ได้เน้นถึงความสำคัญของการรักษาความปลอดภัยทางไซเบอร์ในยุคที่ AI ถูกนำมาใช้ในปฏิบัติการทางไซเบอร์ แฮกเกอร์สามารถใช้เครื่องมือ AI อย่าง ChatGPT เพื่อทำการโจมตีที่ซับซ้อนและแม่นยำยิ่งขึ้น แม้ว่าเครื่องมือเหล่านี้จะไม่ได้ช่วยเพิ่มขีดความสามารถใหม่ แต่ก็ทำให้การโจมตีทางไซเบอร์ทำได้ง่ายขึ้นและเป็นภัยมากขึ้นสำหรับผู้ที่มีทักษะต่ำ

ที่มา – openai.com (PDF)