Anthropic จับมือ Accenture ตรวจสอบความปลอดภัย AI เตรียมทุ่มงบ 1 พันล้านดอลลาร์

Anthropic ประกาศความร่วมมือกับ Accenture เพื่อให้พนักงานจากบริษัทที่ปรึกษาด้านเทคโนโลยีรายนี้เข้ามาทำงานภายในบริษัท เพื่อตรวจสอบความปลอดภัยของโมเดล AI และการทำงานของพนักงาน โดยจะเริ่มจากทีมงานของ Faculty ซึ่งเป็นบริษัทที่ Accenture เพิ่งเข้าซื้อกิจการเมื่อเดือนมกราคมที่ผ่านมา

ความร่วมมือดังกล่าวมีแผนลงทุนร่วมกันไม่ต่ำกว่า 1 พันล้านดอลลาร์ตลอดระยะเวลา 5 ปีข้างหน้า เพื่อยกระดับการประเมินความปลอดภัยและการทดสอบระบบป้องกันของโมเดล AI ให้มีความรัดกุมยิ่งขึ้น

แม้การเลือก Accenture จะสร้างความประหลาดใจให้กับผู้เชี่ยวชาญในอุตสาหกรรม เนื่องจากบริษัทไม่ได้มีชื่อเสียงด้านการวิจัยเชิงลึกของ AI โดยตรง แต่ Anthropic ระบุว่า Accenture มีประสบการณ์จริงในการนำ AI ไปปรับใช้ในองค์กรขนาดใหญ่และหน่วยงานรัฐ

นอกจากนี้ ในฐานะบริษัทมหาชนที่มีประวัติยาวนานก่อนยุค AI ทำให้ Accenture มีความเป็นอิสระในการทำงานสูงกว่าองค์กรวิจัยด้าน AI เฉพาะทาง ซึ่งช่วยสร้างความน่าเชื่อถือในการตรวจสอบที่เป็นกลางมากขึ้น

Anthropic ยืนยันว่านี่เป็นเพียงจุดเริ่มต้นและจะมีการประกาศรายชื่อผู้ประเมินภายนอกรายอื่น ๆ เพิ่มเติมในอีกไม่กี่สัปดาห์ข้างหน้า โดยบริษัทยังคงหารือกับองค์กรไม่แสวงหาผลกำไรอย่าง METR เพื่อหาแนวทางในการทดสอบระบบประเมินความปลอดภัยในรูปแบบอื่น ๆ ต่อไป

บริษัทเน้นย้ำว่าการมีผู้ประเมินภายนอกไม่ได้ลดทอนความรับผิดชอบของ Anthropic ต่อความปลอดภัยของโมเดล แต่เป็นการช่วยให้การตรวจสอบมีความโปร่งใสและสามารถยืนยันผลได้ชัดเจนยิ่งขึ้น