ซีอีโอ SailPoint แนะภาคธุรกิจต้องมีระบบ Kill Switch คุม AI ป้องกันความเสียหาย

Mark McClain ซีอีโอของ SailPoint บริษัทด้านความปลอดภัยไซเบอร์มูลค่าราว 1.2 หมื่นล้านดอลลาร์ ออกมาให้ความเห็นว่าองค์กรต่างๆ จำเป็นต้องมีระบบ Kill Switch หรือกลไกหยุดการทำงานของ AI ทันทีเมื่อเกิดปัญหา โดยเน้นย้ำว่าระบบดังกล่าวต้องมีความแม่นยำสูงเพื่อแยกแยะความผิดปกติออกจากกระบวนการทำงานปกติ ไม่ใช่การตัดระบบทิ้งทั้งหมดแบบเหวี่ยงแห

ความเห็นนี้เกิดขึ้นท่ามกลางกระแสความกังวลเรื่องความปลอดภัยของ AI ในอุตสาหกรรมเทคโนโลยี โดยผู้นำบริษัทเทคโนโลยีรายใหญ่เพิ่งร่วมลงนามในมาตรฐานความปลอดภัยภาคสมัครใจกับรัฐบาลสหรัฐฯ เพื่อตอบสนองต่อคำเตือนเรื่องความเสี่ยงที่อาจเกิดขึ้นจาก AI ที่ทรงพลังมากขึ้น

ในขณะที่ผู้บริหารบริษัทเทคโนโลยีบางรายมองว่าผลกระทบเชิงลบจาก AI เป็นสิ่งที่อาจต้องยอมรับได้ แต่ฝั่งผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์อย่าง Jay Chaudhry ซีอีโอของ ZScaler กลับมองว่าภาคธุรกิจต้องรับผิดชอบในการสร้างเกราะป้องกันและนโยบายที่รัดกุม

Chaudhry ระบุว่ามนุษย์มีความสามารถในการหาทางออกให้กับปัญหาเสมอ โดยเสนอให้บริษัทผู้พัฒนาโมเดลและองค์กรผู้ใช้งานต้องทำงานร่วมกันเพื่อสร้างแนวป้องกันที่มีประสิทธิภาพ แทนที่จะปล่อยให้เกิดความเสียหายโดยไม่มีการควบคุม