NVIDIA เปิดตัวแพลตฟอร์มความปลอดภัย AI สยบความกังวลภัยคุกคามจากหุ่นยนต์
ซีอีโอ NVIDIA ยืนยันการพัฒนา AI ต้องเดินหน้าเต็มกำลัง พร้อมเปิดตัวระบบ Open Agent Safety Platform เพื่อป้องกัน AI ทำงานนอกเหนือคำสั่ง
สรุปข่าว
Jensen Huang ซีอีโอของ NVIDIA ออกมาโต้แย้งกระแสความกังวลเรื่อง AI จะเป็นภัยคุกคามต่อมนุษยชาติ โดยระบุว่าการสร้างความหวาดกลัวเป็นเรื่องไร้สาระและขาดความรับผิดชอบ พร้อมย้ำว่าการพัฒนาเทคโนโลยีควรเดินหน้าอย่างรวดเร็วแต่ต้องอยู่บนพื้นฐานของความปลอดภัย
เพื่อตอบสนองต่อความกังวลดังกล่าว NVIDIA ได้เปิดตัว Open Agent Safety Platform ซึ่งเป็นระบบควบคุมแบบครบวงจรเพื่อป้องกันไม่ให้ AI Agent ทำงานนอกเหนือขอบเขตที่ได้รับมอบหมาย โดยระบบนี้จะช่วยตรวจสอบและกักกันการทำงานของ AI ได้ทันทีหากพบความผิดปกติ
กลไกการทำงานของระบบความปลอดภัย
แพลตฟอร์มใหม่ของ NVIDIA ประกอบด้วยสองเทคโนโลยีหลักคือ OpenShell และ Sentry โดย OpenShell จะทำหน้าที่จำกัดสิทธิ์การเข้าถึงไฟล์และเครือข่ายของ AI ให้อยู่ในสภาพแวดล้อมที่ควบคุมได้
ส่วน Sentry จะทำหน้าที่เป็นชั้นตรวจสอบภายนอกที่ทำงานบนหน่วยประมวลผลข้อมูลของ NVIDIA เพื่อเฝ้าระวังกิจกรรมของ AI ตลอดเวลา หากพบว่า AI พยายามละเมิดขอบเขตที่กำหนด ระบบจะสามารถหยุดการทำงานหรือกักกันได้ภายในเวลาเพียงไม่กี่มิลลิวินาที
ผลกระทบ เชิงบวก
การเปิดตัวแพลตฟอร์มความปลอดภัยช่วยลดความเสี่ยงด้านภาพลักษณ์และกฎระเบียบของเทคโนโลยี AI ซึ่งจะช่วยให้องค์กรต่างๆ มั่นใจในการนำชิปและโซลูชันของ NVIDIA ไปใช้งานมากขึ้น ส่งผลดีต่อความต้องการในระยะยาว
หุ้นที่เกี่ยวข้อง
เรียบเรียงเป็นภาษาไทยโดยกองบรรณาธิการ ข้อมูลนี้ไม่ใช่คำแนะนำการลงทุน