โมเดล AI ปฏิเสธการทำงานระหว่างตรวจสอบภัยคุกคามไซเบอร์
ทีมรักษาความปลอดภัยไซเบอร์เผชิญปัญหาใหม่เมื่อ AI ที่ใช้ตรวจสอบการโจมตีถูกระบบความปลอดภัยของตัวเองบล็อกการทำงานในจังหวะสำคัญ
สรุปข่าว
OpenCode แพลตฟอร์ม AI coding agent รายงานเหตุการณ์ถูกโจมตีทางไซเบอร์เมื่อสุดสัปดาห์ที่ผ่านมา ส่งผลให้ผู้ไม่หวังดีเข้าถึง API keys ของลูกค้า OpenAI, Anthropic และ Google ได้สำเร็จ โดยเหตุการณ์นี้กระทบผู้ใช้งาน OpenCode Console ประมาณ 1.4% ของผู้ใช้ทั้งหมด
ปัญหาที่เกิดขึ้นคือระหว่างที่ทีมรักษาความปลอดภัยพยายามใช้ AI ตรวจสอบโค้ดที่เป็นอันตราย โมเดล AI ชั้นนำกลับปฏิเสธการทำงานเนื่องจากระบบความปลอดภัย (guardrails) มองว่าคำสั่งเหล่านั้นละเมิดนโยบายการใช้งาน ทำให้ทีมงานต้องเปลี่ยนไปใช้โมเดลที่ผ่อนปรนข้อจำกัดมากกว่าในการสืบสวนต่อ
ความท้าทายของทีมรักษาความปลอดภัย
เหตุการณ์นี้สะท้อนปัญหาความสมดุลระหว่างการใช้โมเดล AI ทรงพลังที่มีข้อจำกัดเข้มงวด กับการใช้โมเดลแบบเปิด (open-weight) ที่ควบคุมได้มากกว่า
บริษัท AI ยืนยันว่าจำเป็นต้องคงมาตรการจำกัดการใช้งานไว้เพื่อป้องกันไม่ให้ผู้ไม่หวังดีนำความสามารถของ AI ไปใช้ในทางที่ผิด ซึ่งผู้เชี่ยวชาญมองว่าอุตสาหกรรมความปลอดภัยไซเบอร์จะต้องปรับตัวเพื่อหาจุดสมดุลในการใช้งานเครื่องมือเหล่านี้ในอนาคต
ผลกระทบ เป็นกลาง
เหตุการณ์นี้เป็นความท้าทายเชิงเทคนิคและนโยบายของบริษัท AI ซึ่งยังไม่มีผลกระทบโดยตรงต่อสถานะทางการเงินหรือราคาหุ้นของบริษัทที่เกี่ยวข้องในขณะนี้
สิ่งที่ต้องติดตาม
- การปรับปรุงนโยบายการเข้าถึงโมเดล AI สำหรับงานด้านความปลอดภัยไซเบอร์
หุ้นที่เกี่ยวข้อง
เรียบเรียงเป็นภาษาไทยโดยกองบรรณาธิการ ข้อมูลนี้ไม่ใช่คำแนะนำการลงทุน