ผู้บริหาร AI ชั้นนำจี้ภาครัฐคุมเข้มระบบปัญญาประดิษฐ์ที่พัฒนาตัวเองได้

ผู้บริหารระดับสูงและนักวิจัยด้าน AI กว่า 20 คน รวมถึงตัวแทนจาก Anthropic, OpenAI, Meta Platforms และ Microsoft ได้ร่วมกันเผยแพร่บทความเรียกร้องให้ผู้กำหนดนโยบายภาครัฐเพิ่มความเข้มงวดในการตรวจสอบและกำกับดูแลระบบปัญญาประดิษฐ์ที่สามารถพัฒนาปรับปรุงตัวเองได้อัตโนมัติ

กลุ่มนักวิจัยแสดงความกังวลว่าการนำ AI มาช่วยเร่งกระบวนการวิจัยและพัฒนาโมเดลรุ่นใหม่ๆ อาจนำไปสู่ภาวะที่เรียกว่าการระเบิดทางปัญญา ซึ่งจะทำให้ความสามารถของเทคโนโลยีเติบโตรวดเร็วเกินกว่าที่สังคมจะปรับตัวและควบคุมได้ทัน

บทความดังกล่าวเสนอให้ภาครัฐเข้ามามีส่วนร่วมในการตรวจสอบกระบวนการทำงานของห้องปฏิบัติการ AI ชั้นนำ พร้อมทั้งพัฒนาเครื่องมือเพื่อจำกัดและควบคุมความเสี่ยง รวมถึงการเตรียมแผนรับมือฉุกเฉินสำหรับสถานการณ์ต่างๆ

ความเคลื่อนไหวดังกล่าวเกิดขึ้นท่ามกลางสัญญาณเตือนที่ถี่ขึ้นจากภาคอุตสาหกรรม โดย Anthropic ระบุว่าปัจจุบันงานวิจัยและพัฒนา AI มากกว่าหนึ่งในสี่ถูกขับเคลื่อนโดยระบบแชทบอต Claude ของบริษัทเอง เพิ่มขึ้นจากแทบจะไม่มีเลยในช่วงต้นปี