Nvidia เปิดตัวแพลตฟอร์มความปลอดภัย หวังคุม AI Agent ไม่ให้ทำงานนอกเหนือคำสั่ง

Jensen Huang ซีอีโอของ Nvidia ได้เปิดตัว Open Agent Safety Platform เพื่อรับมือกับความเสี่ยงที่ AI Agent อาจทำงานผิดพลาดหรือควบคุมไม่ได้ โดยแพลตฟอร์มนี้ประกอบด้วยเทคโนโลยี OpenShell และ Nvidia Sentry ที่ทำหน้าที่เป็นรั้วดิจิทัลและระบบตรวจสอบการทำงานของ AI แบบเรียลไทม์

ปัจจุบันมีองค์กรชั้นนำกว่า 100 แห่ง เช่น Microsoft, Anthropic, JPMorgan Chase, Palantir และ Salesforce เข้าร่วมทดสอบระบบดังกล่าว เพื่อสร้างมาตรฐานความปลอดภัยในการใช้งาน AI ระดับองค์กรให้มีความน่าเชื่อถือมากขึ้น

Nvidia มองว่าความปลอดภัยของ AI คือหัวใจสำคัญที่จะช่วยปลดล็อกการลงทุนในโครงสร้างพื้นฐานด้านฮาร์ดแวร์ หากองค์กรต่างๆ ไม่มั่นใจในความปลอดภัยของซอฟต์แวร์อัตโนมัติ ความต้องการชิปประมวลผลของ Nvidia ก็อาจชะลอตัวลงได้

การเปิดตัวแพลตฟอร์มนี้จึงเป็นกลยุทธ์เชิงรุกที่ช่วยให้ Nvidia เข้าไปมีบทบาทในการกำหนดทิศทางการใช้งาน AI ของลูกค้า นอกจากนี้บริษัทยังเดินหน้าลงทุนในระบบนิเวศซอฟต์แวร์อย่างต่อเนื่อง เช่น การลงทุนใน Hugging Face เพื่อรักษาตำแหน่งผู้นำในอุตสาหกรรม AI ไว้ให้ได้