เตือนภัย AI Agents ทำงานผิดพลาด เสี่ยงเผชิญคดีความฟ้องร้อง
ผู้บริหาร Zscaler เตือนถึงความเสี่ยงที่ AI Agents อาจหลุดจากการควบคุม ขณะที่บริษัทกฎหมายเตรียมรับมือคดีความที่เกี่ยวข้องกับความรับผิดชอบของ AI
สรุปข่าว
Jay Chaudhry ซีอีโอของ Zscaler ออกโรงเตือนให้ระมัดระวังการใช้งาน AI Agents เนื่องจากมีความเสี่ยงที่ระบบจะทำงานผิดพลาดหรือถูกแฮ็กจนหลุดออกจากระบบป้องกันความปลอดภัย
ในขณะที่บริษัทเทคโนโลยีรายใหญ่กำลังเร่งพัฒนา AI แต่ปัญหาเรื่องความรับผิดชอบทางกฎหมายเมื่อ AI ก่อความเสียหายด้วยตนเองยังคงเป็นประเด็นที่ไม่มีความชัดเจน ทำให้บริษัทประกันและนักกฎหมายเตรียมรับมือกับคดีความที่จะตามมา
ความท้าทายทางกฎหมาย
ปัจจุบันยังไม่มีกฎระเบียบที่ชัดเจนในการเอาผิดบริษัทผู้พัฒนา AI เมื่อระบบทำงานผิดพลาดหรือละเมิดความเป็นส่วนตัว ซึ่งอาจนำไปสู่การฟ้องร้องในประเด็นความรับผิดชอบต่อผลิตภัณฑ์และการเลือกปฏิบัติของอัลกอริทึม
แม้รัฐบาลสหรัฐฯ จะเน้นการกำกับดูแลตนเอง แต่มีกระแสเรียกร้องจากนักกฎหมายและนักเคลื่อนไหวให้มีการออกกฎหมายบังคับให้บริษัทต้องรายงานเมื่อ AI หลุดจากการควบคุม เพื่อเพิ่มความโปร่งใสและรับผิดชอบต่อสังคม
ผลกระทบ เชิงลบ
ความเสี่ยงด้านกฎหมายและคดีความอาจส่งผลกระทบต่อชื่อเสียงและต้นทุนการดำเนินงานของบริษัทเทคโนโลยีที่พัฒนา AI
หุ้นที่เกี่ยวข้อง
เรียบเรียงเป็นภาษาไทยโดยกองบรรณาธิการ ข้อมูลนี้ไม่ใช่คำแนะนำการลงทุน