การพัฒนาโมเดล AI ประสิทธิภาพสูงที่สามารถปฏิบัติงานที่ซับซ้อนได้
- ทำอะไร
- คณะนักวิจัยได้พัฒนา Nemotron 3.5 Super และ Lightning ซึ่งเป็นโมเดล AI แบบเปิดที่เหมาะสำหรับการใช้เหตุผล การเข้าใจบริบทRiยาวยาว และการปฏิบัติงานแบบอัตโนมัติ
- ผลลัพธ์หลัก
- โมเดล Super ทำคะแนนในการประเมินด้านวิศวกรรมซอฟต์แวร์ได้ 51.78% ซึ่งเหนือกว่ารุ่นก่อนหน้า แม้จะใช้พารามิเตอร์ที่ทำงานจริงน้อยกว่า และแสดงให้เห็นถึงประสิทธิภาพการประมวลผลที่สูงผ่านการปรับแต่งที่หลากหลาย
- ความสำคัญ
- งานวิจัยนี้แสดงให้เห็นถึงความเป็นไปได้ในการยกระดับประสิทธิภาพและสมรรถนะของโมเดลขนาดใหญ่ไปพร้อมๆ กัน เพื่อให้สามารถนำไปประยุกต์ใช้ได้จริงในหลากหลายสภาพแวดล้อม
ที่มา
มีความต้องการโมเดล AI ที่มีประสิทธิภาพซึ่งมีความสามารถในการใช้เหตุผล การเข้าใจบริบทRiยาวยาว และงานเอเจนต์ที่สามารถตัดสินใจและใช้เครื่องมือได้ด้วยตนเอง
วิธีการ
ผสานสถาปัตยกรรม Mixture-of-Experts เข้ากับเทคโนโลยี Mamba-Transformer และทำการปรับแต่งโมเดลผ่านกระบวนการหลังการฝึกอบรม เช่น การกลั่นความรู้ขนาดใหญ่และการเรียนรู้เสริมแรง
ผลลัพธ์หลัก
ประสิทธิภาพด้านภาษาอินเดียเพิ่มขึ้นสูงสุด 9.82 เปอร์เซ็นต์พอยต์ พร้อมทั้งบรรลุผลงานที่ยอดเยี่ยมในเกณฑ์มาตรฐานวิศวกรรมซอฟต์แวร์ควบคู่ไปกับความเร็วในการประมวลผลโทเค็นต่อวินาทีที่สูงต่อการ์ดจอหนึ่งใบ
ข้อจำกัดและประเด็นที่ควรตรวจสอบ
จากเนื้อหาในบทคัดย่อเท่านั้น ไม่สามารถยืนยันการประเมินโดยละเอียดเกี่ยวกับตัวแปรต่างๆ หรือความเสถียรในระยะยาวในสภาพแวดล้อมบริการเชิงพาณิชย์จริงได้
บทสรุปนี้เขียนโดย AI จากบทคัดย่อของงานวิจัยและตรวจสอบโดยผู้ดูแล บทสรุปในหน้านี้แปลโดย AI จากฉบับภาษาเกาหลีที่ผู้ดูแลตรวจสอบแล้ว โปรดดูตัวเลขและบริบทที่แน่นอนในต้นฉบับ
หน้านี้รวบรวมงานวิจัยที่เผยแพร่ ประกาศอย่างเป็นทางการ และรายงานข่าว เพื่อเป็นข้อมูลเท่านั้น บทสรุปงานวิจัยเขียนโดย AI จากบทคัดย่อและตรวจสอบโดยผู้ดูแล อาจแตกต่างจากต้นฉบับ โปรดตรวจสอบต้นฉบับสำหรับเนื้อหาสำคัญ ไม่ใช่คำแนะนำให้ซื้อหรือขายหลักทรัพย์ใดหรือคำปรึกษาด้านการลงทุน การย้ายงานอ้างอิงประกาศอย่างเป็นทางการหรือสื่อหลัก และประวัติการทำงานบางส่วนอ้างอิงจาก Wikidata (CC0) บทสรุปในหน้านี้แปลโดย AI จากฉบับภาษาเกาหลีที่ผู้ดูแลตรวจสอบแล้ว
