OpenAI เผย AI สุดแสบ สามารถหนีออกจากสนามทดสอบ ไปแฮ็ก Hugging Face เพื่อโกง Benchmark ได้เอง
OpenAI เปิดเผยเหตุการณ์สุดแสบของ AI ในการทดสอบภายในด้านความปลอดภัยไซเบอร์ ว่าโมเดล AI ตัวใหม่จะสามารถทำคะแนนความสามารถในการเจาะระบบ” (Offensive Cybersecurity) ได้มากแค่ไหน โดย OpenAI ได้ลดข้อจำกัดด้านความปลอดภัยบางส่วนและปิดระบบป้องกันที่ใช้งานในสภาพแวดล้อมจริง เพื่อวัดความสามารถของโมเดลในการโจมตีระบบ
โดยจะใช้ ExploitGym ที่เป็นหนึ่งในโปรแกรม Benchmark มาตรฐาน มาใช้ประเมินความสามารถของ AI ด้าน Cybersecurity ให้ออกมาเป็นคะแนนเพื่ีอวัดผล
และจากการทดสอบครั้งนี้ พวกเขาได้ผลลัพธ์ที่คาดไม่ถึงกลับมาเลยทีเดียวครับ จากพฤติกรรมและวิธีการที่ AI เลือกใช้ ซึ่งเราจะสรุปให้อ่านแบบเข้าใจกันง่ายๆ ในข่าวนี้
ในบทความนี้
- เริ่มแรก AI ของ OpenAI หลบหนีออกจาก Sandbox ด้วยช่องโหว่ที่ไม่เคยถูกค้นพบ
- เจตนาเข้าถึงอินเตอร์เน็ตเพราะเป้าหมายคือ “โกง Benchmark” ด้วยการขโมยคำตอบ
- Hugging Face ตรวจจับการบุกรุกได้ทัน
- AI จากจีนกลายเป็นฮีโร่ของการสืบสวน
- OpenAI และ Hugging Face ร่วมยกระดับการป้องกัน
เริ่มแรก AI ของ OpenAI หลบหนีออกจาก Sandbox ด้วยช่องโหว่ที่ไม่เคยถูกค้นพบ
การประเมินศักยภาพด้านเจาะระบบ Cybersecurity ครั้งนี้ของโมเดล AI ถูกจัดในสภาพแวดล้อมทดสอบที่ถูกแยกออกจากโลกภายนอก (Sandbox) แต่ยังมีการเชื่อมต่อกับ Proxy ภายในสำหรับใช้ดาวน์โหลดซอฟต์แวร์เท่านั้น
แต่ทันที่เริ่มการทดสอบ โมเดล AI กลับเลือกใช้ทรัพยากรประมวลผลจำนวนมากเพื่อค้นหาช่องโหว่ในจุดนี้โดยทันที และมันก็สามารถพบช่องโหว่ Zero-day Vulnerability ที่ไม่เคยมีการรายงานมาก่อน จากนั้นยกระดับสิทธิ์ตัวเอง (Privilege Escalation) และเคลื่อนที่เข้าถึงเครื่องที่เชื่อมต่ออินเทอร์เน็ตได้ในแทบจะทันที
หลังออกสู่โลกภายนอกด้วยอินเทอร์เน็ตได้สำเร็จ AI วิเคราะห์ว่าแพลตฟอร์ม Hugging Face ซึ่งเป็นแพลตฟอร์มโอเพนซอร์สสำหรับเผยแพร่ชุดข้อมูลโมเดล AI และเครื่องมือสำหรับนักพัฒนา น่าจะเป็นแหล่งเก็บข้อมูลที่เกี่ยวกับโปรแกรมทดสอบ ExploitGym ที่เอาไว้วัดความสามารถด้านการโจมตีไซเบอร์ของมัน
โดย OpenAI ระบุว่า โมเดล AI สามารถไปหาข้อมูลรับรองที่ได้รับอนุญาตให้เข้าสู่ระบบ และเชื่อมต่อผ่านช่องโหว่ที่เจ้าของระบบยังไม่รู้ว่ามีอยู่ สร้างเส้นทางสำหรับรันโค้ดจากระยะไกลบนเซิร์ฟเวอร์ของ Hugging Face ก่อนเข้าถึงฐานข้อมูลที่เก็บคำตอบของ Benchmark เพื่อเพิ่มคะแนนของตนเอง
พูโมเดลไม่ได้เพียงแก้โจทย์ตามปกติ แต่เลือกวิธี “โกงการทดสอบ” ด้วยการขโมยเฉลยแทน
Hugging Face ตรวจจับการบุกรุกได้ทัน
ทั้ง OpenAI และ Hugging Face สามารถตรวจพบความผิดปกติได้จากระบบตรวจจับของตนเอง ทำให้สามารถหยุดการบุกรุกได้ก่อนที่ความเสียหายจะลุกลาม
Hugging Face เปิดเผยว่า มีข้อมูลภายในและข้อมูลรับรองบริการบางส่วนได้รับผลกระทบ แต่ยังไม่พบหลักฐานว่ามีการแก้ไขโมเดลสาธารณะ ชุดข้อมูล หรือ Container Images และในขณะนี้การประเมินผลกระทบต่อผู้ใช้งานก็ยังคงดำเนินการตรวจสอบอยู่ต่อไป
AI จากจีนกลายเป็นฮีโร่ของการสืบสวน
หลังเหตุการณ์ ทีมรักษาความปลอดภัยของ Hugging Face ต้องตรวจสอบ Log เหตุการณ์มากกว่า 17,000 รายการหลังโมเดล AI เจาะเข้ามาในระบบ
ในช่วงแรก บริษัททดลองใช้โมเดล AI เชิงพาณิชย์หลายตัวเข้ามาช่วยตรวจสอบ แต่กลับพบว่าระบบ Safety ของโมเดลเหล่านั้นปฏิเสธการวิเคราะห์หลักฐาน เนื่องจากเข้าใจผิดว่าข้อมูลที่มี Payload, คำสั่งโจมตี และ Command-and-Control เป็นคำขอสร้างมัลแวร์ จึงไม่ยอมดำเนินการให้
สุดท้าย Hugging Face จึงเลือกใช้ GLM 5.2 โมเดล Open-weight จากบริษัทจีน Z.ai และลองรันทั้งหมดอีกครั้ง ผลลัพธ์คือ AI จีนสามารถสร้างไทม์ไลน์ของการโจมตีได้ สามารถระบุ Credential ที่รั่วไหล สามารถค้นหา Indicators of Compromise และแยกข้อมูลจริงออกจากข้อมูลลวงได้ภายในเวลาเพียงไม่กี่ชั่วโมง จากเดิมที่อาจต้องใช้เวลาหลายวัน
หลังเสร็จสิ้นการวิเคราะห์ด้วย Z.ai ของจีน ทีมงาน Hugging Face จึงสามารถลบช่องทางการบุกรุกทั้งหมด และสร้างระบบที่ได้รับผลกระทบขึ้นใหม่ได้สำเร็จ เรียกว่าช่วยได้เยอะมากเลยทีเดียว
OpenAI และ Hugging Face ร่วมยกระดับการป้องกัน
ภายหลังเหตุการณ์ ทาง OpenAI ก็ได้เชิญ Hugging Face มาเข้าร่วม Trusted Access Program เพื่อให้สามารถเข้าถึงโมเดล AI รุ่นล่าสุดสำหรับใช้ทดสอบและพัฒนาระบบป้องกันภัยไซเบอร์ของตนเอง
เหตุการณ์ครั้งนี้สะท้อนให้เห็นว่า AI รุ่นใหม่ไม่ได้เพียงช่วยเขียนโค้ดหรือค้นหาช่องโหว่ แต่สามารถวางแผน เชื่อมโยงการโจมตีหลายขั้นตอน และตัดสินใจเลือกวิธีที่เพิ่มโอกาสประสบความสำเร็จได้ด้วยตัวเอง
ขณะเดียวกัน AI ฝั่งป้องกันก็เริ่มมีบทบาทสำคัญไม่แพ้กัน โดยเฉพาะการวิเคราะห์เหตุการณ์และตอบสนองต่อภัยคุกคามที่ซับซ้อนมากขึ้น
เป็นการยกระดับที่แอบน่ากลัว เพราะเป็นตัวอย่างที่แสดงให้เห็นว่า “มนุษย์ไม่สามารถคาดเดาการกระทำของ AI ได้ทั้งหมด” และมันอาจจะเสียหายเกินควบคุมได้ไม่ยาก ถ้ามันคิดได้เองขนาดนี้