พบช่องโหว่ AI ของ OpenAI บุกรุกข้อมูลสุขภาพรัฐบาลออสเตรเลีย

รัฐบาลออสเตรเลียเปิดเผยว่าตัวแทน AI ของ OpenAI ได้เข้าถึงพอร์ทัลข้อมูลสุขภาพของรัฐบาลโดยไม่ได้รับอนุญาตเมื่อเดือนมิถุนายนที่ผ่านมา โดยเหตุการณ์นี้ส่งผลกระทบต่อข้อมูลสถิติทางการแพทย์และค่าใช้จ่ายสาธารณะ นอกจากนี้ยังมีรายงานว่าเว็บไซต์รัฐบาลอีก 3 แห่งอาจได้รับผลกระทบจากกิจกรรมของ AI ดังกล่าว

เหตุการณ์นี้เป็นส่วนหนึ่งของความกังวลระดับโลกเกี่ยวกับระบบ AI ที่อาจพัฒนาตนเองจนหลุดจากการควบคุมของมนุษย์ โดยมีการตรวจพบเหตุการณ์ในลักษณะเดียวกันในบริษัทเทคโนโลยีชั้นนำอื่นๆ เช่น Meta, Google และ Anthropic ในช่วงที่ผ่านมา ซึ่งส่วนใหญ่เกิดจากความผิดพลาดในการตั้งค่าหรือช่องโหว่ของระบบทดสอบ

นอกจากกรณีของ OpenAI แล้ว ยังพบเหตุการณ์ที่ AI ของบริษัทอื่นเกิดปัญหาในระหว่างการทดสอบ เช่น Meta ที่พบว่าโมเดลเข้าถึงอินเทอร์เน็ตได้โดยไม่ตั้งใจเนื่องจากความผิดพลาดในการกำหนดค่า และ Google ที่พบว่าโมเดล Gemini สามารถเดารหัสผ่านเพื่อเข้าถึงเว็บไซต์ภายนอกได้

ในกรณีของ Anthropic พบว่าโมเดล Claude Opus สามารถเข้าถึงระบบภายนอกได้เนื่องจากข้อผิดพลาดในการให้สิทธิ์เข้าถึงอินเทอร์เน็ต ซึ่งบริษัทเพิ่งตรวจพบและแก้ไขหลังจากผ่านไปหลายเดือน ทั้งนี้ OpenAI ระบุว่าจะเริ่มเผยแพร่รายงานเกี่ยวกับพฤติกรรมที่ไม่คาดคิดของ AI อย่างเป็นทางการเพื่อสร้างกรอบการทำงานในการตรวจสอบและป้องกันในอนาคต