งานวิจัย
เสนอเทคนิคการลดความเร็วและการใช้หน่วยความจำของ AI สร้างวิดีโอ
Sol-H3: Recursive Self-Improvement for MiniMax-H3 Inference Acceleration on Sol-Engine across Cloud and Edge
- ทำอะไร
- ได้สร้างไปป์ไลน์การทำงานทั้งหมดเพื่อให้โมเดล AI สร้างวิดีโอ MiniMax-H3 ที่มีพารามิเตอร์ 3,300 ล้านตัวทำงานได้เร็วขึ้นและใช้หน่วยความจำน้อยลงทั้งบนเซิร์ฟเวอร์คลาวด์และอุปกรณ์ขนาดเล็ก
- ผลลัพธ์หลัก
- ตามบทคัดย่อ ระบุว่าสามารถเพิ่มความเร็วแบบ end-to-end (ตั้งแต่ขั้นตอนรับอินพุตจนถึงผลลัพธ์สุดท้าย) ได้สูงสุดถึง 30 เท่า และประหยัดหน่วยความจำได้ประมาณ 20% อีกทั้งยังสามารถสร้างวิดีโอความละเอียด 1344x768 ยาว 5 วินาทีที่มีเสียงประกอบ บนโหนดเซิร์ฟเวอร์ GB200 จำนวน 8 โหนด ได้เร็วกว่าเวลาจริงถึง 3.5 เท่า
- ความสำคัญ
- มีความสำคัญในแง่ของการแสดงแนวทางในการลดความล่าช้าในการสร้างและข้อจำกัดด้านหน่วยความจำ ซึ่งเป็นอุปสรรคใหญ่ที่สุดเมื่อนำ AI สร้างวิดีโอไปปรับใช้กับการบริการจริง แต่ยังยากที่จะประเมินผลลัพธ์ในเชิงพาณิชย์หรือขนาดของการประหยัดต้นทุนได้จากบทคัดย่อเพียงอย่างเดียวสรุปโดย AI
