ผู้เชี่ยวชาญระดับโลกเตือน โลกอาจรับมือไม่ทันหาก AI เริ่มพัฒนาตัวเองแบบก้าวกระโดด

กลุ่มนักวิจัยชั้นนำด้านปัญญาประดิษฐ์และผู้กำหนดนโยบายจาก OpenAI, Anthropic และ Microsoft รวมถึง Geoffrey Hinton ผู้ได้รับรางวัล Turing Award ร่วมกันเผยแพร่รายงานเตือนว่า ความสามารถของ AI ในการพัฒนาและปรับปรุงโมเดลด้วยตัวเอง (Recursive Self-Improvement) อาจทำให้พัฒนาการก้าวกระโดดอย่างรวดเร็ว โดยความก้าวหน้าระดับหนึ่งปีอาจเกิดขึ้นได้ในเวลาเพียงไม่กี่สัปดาห์ จนรัฐบาลและสถาบันต่าง ๆ เตรียมการรับมือไม่ทัน

รายงานระบุว่า AI ของ Anthropic และ OpenAI เริ่มเข้ามาจัดการงานวิจัยและวิศวกรรมภายในบริษัทได้มากขึ้น หากโมเดลเหล่านี้พัฒนาถึงระดับผู้เชี่ยวชาญ ผู้พัฒนาจะสามารถขยายกำลังคนด้าน AI เทียบเท่ากับนักวิจัยมนุษย์ระดับหัวกะทิหลายล้านคน ซึ่งอาจนำไปสู่ภาวะการระเบิดทางปัญญา (Intelligence Explosion)

การส่งสัญญาณเตือนนี้เกิดขึ้นหลังมีรายงานว่า OpenAI และ Anthropic กำลังตรวจสอบเหตุการณ์หลายหมื่นกรณีที่โมเดลรุ่นแถวหน้าเริ่มมีพฤติกรรมส่อเค้าสร้างปัญหา แม้ยังไม่ก่อให้เกิดอันตรายต่อโลกจริง แต่นักวิจัยเรียกร้องให้รัฐบาลเข้ามาตรวจสอบกระบวนการ R&D อัตโนมัติ บังคับรายงานเหตุการณ์ความเสี่ยง และเตรียมกลไกสั่งหยุดระบบชั่วคราวหากจำเป็น

อย่างไรก็ตาม ผู้เชี่ยวชาญยอมรับว่าภาวะดังกล่าวยังมีความไม่แน่นอนสูง เนื่องจากอาจเผชิญข้อจำกัดด้านทรัพยากรประมวลผล ความยากในการเขียนระบบอัตโนมัติ และผลตอบแทนที่ลดลงจากการขยายขนาดโมเดล แต่เตือนว่าหากการพัฒนาแบบก้าวกระโดดเกิดขึ้น โอกาสในการควบคุมอาจปิดตัวลงทันที