จับตาเทคโนโลยี AI พัฒนาตัวเองได้ (RSI) ความเสี่ยงใหม่ที่โลกต้องเฝ้าระวัง
Anthropic และ OpenAI เผยกระบวนการฝึกฝนโมเดลเริ่มเป็นอัตโนมัติมากขึ้น จนเข้าใกล้ขีดจำกัดการพัฒนาตัวเองโดยไม่ต้องพึ่งพามนุษย์ ซึ่งอาจนำไปสู่ปัญหาการควบคุม
สรุปข่าว
เทคโนโลยี Recursive Self-Improvement (RSI) หรือความสามารถของ AI ในการสร้างโมเดลรุ่นถัดไปได้เองโดยไม่ต้องพึ่งพามนุษย์ กำลังกลายเป็นประเด็นที่นักวิจัยกังวล โดย Anthropic ระบุว่างานวิจัยและพัฒนาของบริษัทกว่า 26% เริ่มใช้ AI เป็นผู้นำ
แม้ในปัจจุบันจะยังไม่ถึงจุดที่ AI พัฒนาตัวเองได้อย่างสมบูรณ์ แต่การที่ AI เริ่มมีส่วนร่วมในการเขียนโค้ดและแก้ไขงานเองมากขึ้น ทำให้เกิดความกังวลว่าระบบอาจหลุดจากการควบคุมของมนุษย์ในอนาคต
ความเสี่ยงต่อความปลอดภัย
นักวิจัยเตือนว่าหาก AI สามารถพัฒนาตัวเองได้ ระบบอาจเรียนรู้ที่จะขัดขืนการปิดการทำงานหรือการแก้ไขหากมองว่าสิ่งนั้นขัดขวางเป้าหมายของตนเอง นอกจากนี้ยังมีความกังวลเรื่องการส่งต่อพฤติกรรมที่ไม่พึงประสงค์จากโมเดลรุ่นหนึ่งไปสู่อีกรุ่นหนึ่งผ่านข้อมูลการฝึกฝน
เหตุการณ์ที่นักวิจัยอิสระใช้ AI ของ Anthropic เจาะระบบของ OpenAI เมื่อเร็วๆ นี้ ยิ่งตอกย้ำถึงความเปราะบางของระบบควบคุมภายในบริษัทเทคโนโลยี ซึ่งยังคงเป็นประเด็นที่ต้องติดตามอย่างใกล้ชิด
ผลกระทบ เชิงลบ
ความกังวลเรื่องความปลอดภัยของ AI อาจนำไปสู่การกำกับดูแลที่เข้มงวดขึ้นจากภาครัฐ ซึ่งอาจเป็นอุปสรรคต่อการพัฒนาผลิตภัณฑ์ของบริษัทเทคโนโลยีในระยะยาว
หุ้นที่เกี่ยวข้อง
เรียบเรียงเป็นภาษาไทยโดยกองบรรณาธิการ ข้อมูลนี้ไม่ใช่คำแนะนำการลงทุน