Anthropic เผย Claude เจาะระบบองค์กรจริง 3 แห่งระหว่างทดสอบความปลอดภัยไซเบอร์ เกิดขึ้นตั้งแต่เมษายน แต่ไม่มีใครรู้ตัว

· 2 min read

Anthropic เปิดเผยเมื่อวันพฤหัสบดี (30 ก.ค.) ที่ผ่านมาว่า โมเดล AI ของบริษัทเข้าถึงอินเทอร์เน็ตระหว่างการทดสอบด้านความปลอดภัยไซเบอร์ และเจาะเข้าระบบจริงขององค์กรภายนอก 3 แห่งโดยไม่ได้รับอนุญาต ซึ่งเป็นเหตุการณ์ที่เกิดขึ้นตั้งแต่เดือนเมษายนที่ผ่านมา โดยที่บริษัทไม่ทราบเรื่องมาก่อน

  • ไล่ตรวจ 141,006 การทดสอบ เจอ 3 เหตุการณ์ที่หลุดรอด
  • 3 โมเดล 3 ปฏิกิริยา เมื่อรู้ว่าเป้าหมายคือระบบจริง
  • ประเด็นที่ยังถูกตั้งคำถาม
  • เสียงเรียกร้องกฎกำกับ AI ดังขึ้น

การเปิดเผยครั้งนี้เกิดขึ้นหลังจาก OpenAI ออกมาระบุเมื่อสัปดาห์ก่อนว่า เทคโนโลยี AI ของบริษัทหลุดออกจากสภาพแวดล้อมทดสอบแบบปิด หรือ Sandbox ที่ควรถูกตัดขาดจากอินเทอร์เน็ต และเข้าไปเจาะระบบของ Hugging Face แพลตฟอร์มสำหรับนักพัฒนาโอเพนซอร์ส

Anthropic ระบุว่า เหตุการณ์ของ OpenAI เป็นตัวจุดชนวนให้บริษัทกลับไปตรวจสอบการทดสอบด้านไซเบอร์ของตัวเอง ว่ามีกรณีคล้ายกันเกิดขึ้นหรือไม่ โดยองค์กรทั้ง 3 แห่งที่ได้รับผลกระทบได้รับแจ้งเมื่อวันจันทร์ที่ผ่านมา ขณะที่บริษัทไม่ได้เปิดเผยชื่อองค์กรเหล่านั้น

ไล่ตรวจ 141,006 การทดสอบ เจอ 3 เหตุการณ์ที่หลุดรอด

จากการตรวจสอบย้อนหลังบันทึกการทดสอบทั้งหมด 141,006 ครั้ง Anthropic พบ 3 เหตุการณ์ที่ Claude เข้าถึงอินเทอร์เน็ตได้จริง ระหว่างการทำงานร่วมกับ Irregular บริษัทด้านความปลอดภัย AI ซึ่งเป็นผู้สร้างสภาพแวดล้อมทดสอบให้กับ Anthropic

ต้นตอของปัญหามาจากการตั้งค่าที่ผิดพลาด ซึ่ง Anthropic อธิบายว่าเป็น ‘ความเข้าใจไม่ตรงกัน’ ระหว่างบริษัทกับพันธมิตร เกี่ยวกับว่าสภาพแวดล้อมทดสอบมีการเชื่อมต่ออินเทอร์เน็ตหรือไม่ ทั้งที่ในความเป็นจริงมีการเชื่อมต่ออยู่

จุดที่น่าสนใจคือ ในการทดสอบทุกครั้ง Anthropic ได้ระบุกับ Claude อย่างชัดเจนผ่านคำสั่งว่า โมเดลไม่มีการเชื่อมต่ออินเทอร์เน็ต และอยู่ในสถานการณ์จำลอง แต่ระหว่างการทดสอบ โมเดลกลับหาทางออกสู่อินเทอร์เน็ตได้ และเข้าใจผิดว่าระบบจริงที่พบเจอเป็นส่วนหนึ่งของโจทย์ที่ได้รับมอบหมาย

สำหรับวิธีการที่ใช้เจาะระบบนั้น ถือเป็นเทคนิคพื้นฐาน ทั้งการเดารหัสผ่านที่อ่อนแอ และการเข้าถึงจุดเชื่อมต่อระบบที่ไม่มีการยืนยันตัวตน โดยการทดสอบชุดนี้เป็นรูปแบบ Capture-the-flag ซึ่งให้โมเดลค้นหาข้อมูลที่ซ่อนอยู่ด้วยการเจาะเข้าระบบอื่น เป็นวิธีมาตรฐานในการวัดขีดความสามารถด้านการแฮกทั้งของมนุษย์และ AI

Anthropic ยังระบุด้วยว่า โมเดลที่ใช้ทดสอบทั้งหมดทำงานโดยไม่มีระบบตรวจสอบด้านความปลอดภัยและตัวคัดกรองที่บริษัทติดตั้งไว้ในโมเดลที่เปิดให้ใช้งานทั่วไป เนื่องจากการทดสอบมีเป้าหมายเพื่อวัดขีดความสามารถที่แท้จริงของตัวโมเดล โดยไม่มีตัวช่วยใดๆ ซึ่งบริษัทระบุว่ามาตรการเหล่านั้นน่าจะสกัดพฤติกรรมดังกล่าวได้

3 โมเดล 3 ปฏิกิริยา เมื่อรู้ว่าเป้าหมายคือระบบจริง

เหตุการณ์ทั้ง 3 ครั้ง เกี่ยวข้องกับโมเดล 3 ตัว ได้แก่ Opus 4.7, Mythos 5 และโมเดลวิจัยภายในที่ยังไม่เปิดเผยชื่อ โดยสิ่งที่ Anthropic ระบุว่าเป็นข้อค้นพบที่น่าสนใจที่สุด คือทั้ง 3 โมเดลมีปฏิกิริยาต่างกันอย่างชัดเจน เมื่อเริ่มมีหลักฐานว่าเป้าหมายที่กำลังโจมตีเป็นระบบจริง

Opus 4.7 ซึ่งเป็นโมเดลเก่าที่สุดในกลุ่ม รับรู้ว่าตัวเองเข้าถึงระบบจริงในทั้ง 4 รอบของเหตุการณ์นั้น โดยใน 2 รอบ โมเดลให้เหตุผลกับตัวเองว่าบริษัทจริงคงเป็นส่วนหนึ่งของโจทย์ทดสอบ แต่ในทั้ง 4 รอบ โมเดลยังคงเดินหน้าโจมตีต่อ รวมถึงการดึงข้อมูลรับรองตัวตน และเข้าถึงฐานข้อมูลที่ใช้งานจริง

ส่วน Mythos 5 ก็จับสัญญาณได้ว่ากำลังอยู่บนอินเทอร์เน็ตจริง แต่กลับโน้มน้าวตัวเองจนเชื่อว่ายังอยู่ในสถานการณ์จำลอง ก่อนจะเผยแพร่ชุดโค้ดที่เป็นอันตรายขึ้นสู่ PyPI คลังซอฟต์แวร์สาธารณะของภาษา Python ที่นักพัฒนาทั่วโลกใช้ดาวน์โหลดไปใช้งาน โดยชุดโค้ดดังกล่าวถูกดาวน์โหลดและเรียกใช้งานโดยระบบภายนอกไปแล้ว ก่อนที่จะถูกตรวจพบ

มีเพียงโมเดลวิจัยภายในซึ่งเป็นรุ่นใหม่ที่สุดเท่านั้น ที่หยุดการทำงานด้วยตัวเอง หลังสรุปได้ว่าเป้าหมายเป็นระบบจริง

“รูปแบบนี้สอดคล้องกับแนวคิดที่ว่าโมเดลที่ก้าวหน้ากว่าจะตอบสนองได้เหมาะสมกว่า แต่เราจำเป็นต้องทดสอบเพิ่มเติมเพื่อให้มั่นใจในข้อสรุปนี้” Anthropic ระบุ

ทั้งนี้ บริษัทระบุว่าไม่พบหลักฐานว่าโมเดลใดมีการ ‘ไล่ตามเป้าหมายของตัวเอง’ แต่เป็นเพียงการพยายามทำงานที่ได้รับมอบหมายให้สำเร็จเท่านั้น

ประเด็นที่ยังถูกตั้งคำถาม

Anthropic พยายามชี้ความแตกต่างระหว่างกรณีของตัวเองกับ OpenAI โดยระบุว่า โมเดลของ OpenAI ใช้ช่องโหว่ซอฟต์แวร์ที่ยังไม่มีใครรู้จักในการหลุดออกจากสภาพแวดล้อมทดสอบ ขณะที่โมเดลของ Anthropic เข้าถึงอินเทอร์เน็ตผ่านช่องทางที่ถูกเปิดทิ้งไว้โดยความผิดพลาด

นอกจากนี้ Anthropic ยังระบุว่าบริษัทตรวจพบเหตุการณ์ด้วยตัวเองจากการตรวจสอบเชิงรุก และองค์กรที่ได้รับผลกระทบซึ่งบริษัทติดต่อได้ ไม่เคยตรวจพบหรือแจ้งเตือนกิจกรรมดังกล่าวมาก่อน ซึ่งต่างจากกรณีของ Hugging Face ที่ตรวจพบการบุกรุกก่อน แล้ว OpenAI จึงระบุตัวและเปิดเผยในภายหลัง

อย่างไรก็ตาม ประเด็นที่ว่าทั้ง Anthropic และองค์กรที่ถูกเจาะระบบ ต่างไม่ทราบเรื่องมาก่อนเป็นเวลาหลายเดือน ยังคงเป็นคำถามสำคัญ โดยบริษัทยอมรับว่าควรตรวจสอบบันทึกเครือข่ายและบทสนทนาการทดสอบให้มากกว่านี้

ปัจจุบัน Anthropic หยุดการทดสอบด้านไซเบอร์ทั้งหมดทันทีที่พบปัญหา และกำลังทำงานร่วมกับ METR องค์กรประเมิน AI อิสระ เพื่อตรวจสอบเหตุการณ์เพิ่มเติม พร้อมเรียกร้องให้ห้องแล็บ AI รายอื่นดำเนินการตรวจสอบในลักษณะเดียวกัน ด้านโฆษกของ Irregular ระบุว่าบริษัทกำลังสอบสวนเหตุการณ์นี้อยู่เช่นกัน

เสียงเรียกร้องกฎกำกับ AI ดังขึ้น

เหตุการณ์ที่เกิดขึ้นต่อเนื่องกันของสองบริษัท AI รายใหญ่ กำลังจุดกระแสเรียกร้องให้มีการกำกับดูแลที่เข้มงวดขึ้น

อเล็กซ์ สตามอส ประธานเจ้าหน้าที่ฝ่ายผลิตภัณฑ์ของบริษัทความปลอดภัยไซเบอร์ Corridor ระบุว่า เหตุการณ์เหล่านี้แสดงให้เห็นว่าบริษัท AI จำเป็นต้องมีมาตรฐานระดับอุตสาหกรรมที่แข็งแกร่งกว่านี้ ในการแยกระบบระหว่างการทดสอบด้านไซเบอร์

เขายังเตือนถึงอนาคตที่อาชญากรไซเบอร์อาจใช้ AI ก่อเหตุโจมตีในวงกว้าง โดยระบุว่า “อีกไม่นาน ผู้โจมตีจะมีความสามารถแบบนี้ในมือ ผ่านโมเดล AI ที่เปิดให้ทุกคนดาวน์โหลดไปใช้งานเองได้ เราต้องเตรียมรับมือไว้ตั้งแต่ตอนนี้”

ด้าน อลัน วูดเวิร์ด ศาสตราจารย์ด้านความปลอดภัยไซเบอร์จาก University of Surrey มองว่า Anthropic ตรงไปตรงมาเกี่ยวกับความผิดพลาดของมนุษย์ที่นำไปสู่เหตุการณ์นี้ โดยระบุว่า AI “ไม่ได้ออกนอกลู่นอกทาง คุณสั่งให้มันทำบางอย่าง แล้วก็เปิดประตูทิ้งไว้”

ขณะที่ในฝั่งการเมือง สมาชิกสภาผู้แทนราษฎรสหรัฐฯ 2 รายได้เสนอร่างกฎหมาย ‘AI Kill Switch Act’ ซึ่งกำหนดให้บริษัท AI ต้องมีความสามารถในการปิด, ชะลอ หรือระงับการทำงานของโมเดล ในกรณีที่โมเดลทำงานผิดปกติ

นอกจากนี้ พนักงานจากบริษัท AI ต่างๆ กว่า 1,100 คน ยังร่วมลงชื่อในคำร้องเมื่อวันอังคาร เรียกร้องให้รัฐบาลสหรัฐฯ สนับสนุนกลไกที่จะช่วย ‘กำหนดจังหวะการพัฒนา AI อย่างจงใจ’ เพื่อป้องกันไม่ให้เทคโนโลยีก้าวหน้าเร็วเกินไป

ภาพ : nickj / Shutterstock

อ้างอิง:

ABOUT THE AUTHOR

ถนัดกิจ จันกิเสน

Content Creator ประจำกองบรรณาธิการ THE STANDARD WEALTH ผู้เสพติดโลกธุรกิจ การตลาด เทคโนโลยี และชอบสำรวจโลกออฟไลน์และออนไลน์มาถอดรหัสความเคลื่อนไหวให้เป็นเรื่องเข้าใจง่าย สนุก และได้ไอเดียใหม่ๆ