ซีอีโอ Anthropic และ OpenAI เรียกร้องชะลอการพัฒนา AI หวั่นความปลอดภัย

Dario Amodei ซีอีโอของ Anthropic ได้เผยแพร่บทความเรียกร้องให้ภาคอุตสาหกรรมชะลอความเร็วในการพัฒนาโมเดล AI ขั้นสูง โดยได้รับแรงสนับสนุนจาก Sam Altman ซีอีโอของ OpenAI ความเคลื่อนไหวดังกล่าวเกิดขึ้นท่ามกลางความกังวลจากนักวิจัยที่ระบุว่าเทคโนโลยี AI อาจก้าวไปถึงจุดที่มนุษย์ไม่สามารถควบคุมได้ หรือที่เรียกว่าภาวะการพัฒนาตนเองแบบก้าวกระโดด (recursive self-improvement)

Amodei เสนอให้บริษัท AI ชั้นนำจัดตั้งมาตรฐานความปลอดภัยร่วมกัน และเปิดรับการตรวจสอบจากบุคคลที่สามเพื่อประเมินกระบวนการฝึกฝนโมเดลอย่างโปร่งใส โดย Anthropic ประกาศความมุ่งมั่นที่จะดำเนินการตามแนวทางนี้เพื่อลดความเสี่ยงที่อาจเกิดขึ้นในอนาคต

นักวิจัยบางส่วนแสดงความกังวลว่าบริษัทเทคโนโลยีขนาดใหญ่กำลังเร่งสร้างซูเปอร์อินเทลลิเจนซ์โดยขาดความรับผิดชอบเพียงพอ ซึ่งอาจนำไปสู่ภัยคุกคามร้ายแรงต่อสังคมและมนุษยชาติในทศวรรษนี้

อย่างไรก็ตาม ประธานาธิบดี Donald Trump ได้แสดงท่าทีคัดค้านการชะลอตัวดังกล่าว โดยเน้นย้ำว่าสหรัฐฯ ต้องรักษาความเป็นผู้นำด้าน AI เหนือจีนเอาไว้ และมองว่าข้อกังวลเรื่องความปลอดภัยบางประการอาจเป็นเรื่องที่เกินจริง