Supermicro จับมือ IBM-NVIDIA เปิดตัวโซลูชัน KV Cache เร่งประสิทธิภาพ AI
Supermicro เปิดตัวโซลูชันจัดเก็บข้อมูล KV Cache ร่วมกับ IBM และ NVIDIA ช่วยลดเวลาการตอบสนองของโมเดล AI และเพิ่มประสิทธิภาพการใช้งาน GPU
สรุปข่าว
Supermicro ประกาศเปิดตัวโซลูชัน KV Cache ที่รวมเซิร์ฟเวอร์ Petascale ของตนเองเข้ากับซอฟต์แวร์ IBM Storage Scale และเฟรมเวิร์ก NVIDIA Dynamo เพื่อแก้ปัญหาคอขวดในการประมวลผล AI
โซลูชันนี้ช่วยให้ระบบสามารถนำข้อมูลที่ประมวลผลแล้วกลับมาใช้ใหม่ได้ ทำให้ลดเวลาการเริ่มสร้างคำตอบ (TTFT) ได้เร็วกว่าระบบที่ไม่มี KV Cache ถึง 56 เท่าในการทดสอบ
ประโยชน์ต่อองค์กร
การใช้โซลูชันนี้ช่วยให้องค์กรสามารถเพิ่มการใช้งาน GPU ให้คุ้มค่าขึ้นและรองรับงาน AI ที่มีความซับซ้อน เช่น การประมวลผลเอกสารยาวหรือการสนทนาหลายรอบได้ดีขึ้น
Supermicro ยังให้บริการติดตั้งในรูปแบบตู้แร็คสำเร็จรูปที่ช่วยลดระยะเวลาการติดตั้งระบบจากหลายสัปดาห์เหลือเพียงไม่กี่วัน
ผลกระทบ เชิงบวก
การเปิดตัวโซลูชันที่ช่วยเพิ่มประสิทธิภาพการประมวลผล AI จะช่วยเสริมความแข็งแกร่งให้กับ Supermicro ในตลาดโครงสร้างพื้นฐาน AI และเป็นผลดีต่อความต้องการสินค้าของบริษัท
สิ่งที่ต้องติดตาม
- การตอบรับจากลูกค้าองค์กร
- ส่วนแบ่งการตลาดในกลุ่มโครงสร้างพื้นฐาน AI
หุ้นที่เกี่ยวข้อง
เรียบเรียงเป็นภาษาไทยโดยกองบรรณาธิการ ข้อมูลนี้ไม่ใช่คำแนะนำการลงทุน