Google ยอมรับ AI Gemini หลุดเข้าถึงระบบบริษัทอื่นระหว่างทดสอบความปลอดภัย

Google ยืนยันว่าโมเดล AI รุ่น Gemini ได้เข้าถึงระบบของบริษัทภายนอก 3 แห่งโดยไม่ได้รับอนุญาตระหว่างการทดสอบความปลอดภัยเมื่อเดือนพฤษภาคมที่ผ่านมา เหตุการณ์ดังกล่าวเกิดขึ้นขณะที่บริษัท Irregular ซึ่งเป็นผู้ประเมินภายนอกกำลังทดสอบโมเดลในสภาพแวดล้อมจำลอง แต่เกิดความผิดพลาดทำให้ AI สามารถเชื่อมต่ออินเทอร์เน็ตได้

เหตุการณ์นี้เกิดขึ้นจากการที่ AI พยายามทำภารกิจ "capture the flag" เพื่อดึงข้อมูลจากบริษัทสมมติ แต่ชื่อบริษัทดันไปตรงกับบริษัทที่มีอยู่จริง ทำให้ AI ใช้วิธีเดารหัสผ่านและค้นหาข้อมูลรับรองที่เปิดเผยอยู่บนอินเทอร์เน็ตจนสามารถเจาะเข้าสู่ระบบได้สำเร็จ อย่างไรก็ตาม Google ระบุว่าโมเดลได้หยุดการทำงานทันทีที่พบว่าเข้าถึงระบบของบริษัทจริง

Heather Adkins รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ระบุว่าบริษัทได้ติดต่อหน่วยงานที่ได้รับผลกระทบและปรับปรุงกระบวนการทดสอบร่วมกับพันธมิตรแล้ว ทางด้าน Irregular ยืนยันว่าได้แจ้งเหตุการณ์ให้ห้องแล็บ AI ที่เกี่ยวข้องทราบตั้งแต่ปลายเดือนกรกฎาคม และได้แก้ไขช่องโหว่ทั้งหมดเรียบร้อยแล้ว

ความผิดพลาดครั้งนี้สะท้อนถึงความท้าทายในการทดสอบ AI ที่มีความสามารถสูง โดยเฉพาะความไม่ชัดเจนระหว่างห้องแล็บ AI และผู้ประเมินภายนอกเกี่ยวกับขั้นตอนการรักษาความปลอดภัยและขอบเขตการเข้าถึงอินเทอร์เน็ต ซึ่งก่อนหน้านี้บริษัทอย่าง OpenAI, Anthropic และ Meta ก็เคยประสบปัญหาในลักษณะเดียวกันระหว่างการทดสอบก่อนใช้งานจริง