ซีอีโอ Salesforce เตือนบริษัท AI ต้องรับผิดชอบต่อความปลอดภัยหรือเผชิญการฟ้องร้อง

Marc Benioff ซีอีโอของ Salesforce กล่าวในงานประชุม Dreamforce ว่าบริษัทผู้พัฒนา AI ต้องแสดงความรับผิดชอบต่อผลิตภัณฑ์ของตนเองอย่างจริงจัง เพื่อป้องกันความเสียหายที่อาจเกิดขึ้นกับผู้ใช้งาน โดยเขามองว่าบริษัทควรให้ความสำคัญกับจริยธรรมและมาตรการความปลอดภัยก่อนที่จะเกิดปัญหา แทนที่จะรอแก้ตัวภายหลัง

Benioff เสนอให้ใช้กลไกทางกฎหมายด้านความรับผิดชอบต่อผลิตภัณฑ์ (Product Liability) มาบังคับใช้กับบริษัท AI เช่นเดียวกับที่ใช้กับผู้ผลิตรถยนต์ พร้อมทั้งเสนอให้มีการจัดอันดับมาตรฐานจริยธรรมของบริษัทเทคโนโลยีเพื่อสร้างความโปร่งใสในอุตสาหกรรม

ท่ามกลางความกังวลเรื่อง AI อาจส่งผลกระทบต่อมนุษยชาติ Benioff มองว่าความรับผิดชอบหลักยังคงอยู่ที่ผู้พัฒนาเทคโนโลยี โดย Salesforce ได้นำแนวคิดเรื่องความรับผิดชอบส่วนบุคคลมาปรับใช้ในองค์กร พร้อมทั้งสร้าง "Trust Layer" เพื่อควบคุมโมเดล AI ไม่ให้ทำงานผิดพลาด

ในขณะที่ผู้นำเทคโนโลยีรายอื่นอย่าง Jensen Huang จาก Nvidia มองว่าความเร็วและความปลอดภัยสามารถเกิดขึ้นพร้อมกันได้ แต่ Benioff ยังคงเน้นย้ำว่าบริษัทต้องจัดลำดับความสำคัญของค่านิยมองค์กรเพื่อรับมือกับความขัดแย้งที่อาจเกิดขึ้นจากการพัฒนาเทคโนโลยีที่ทรงพลัง