Phát triển các mô hình AI hiệu suất cao có khả năng thực hiện các tác vụ phức tạp
- Nội dung
- Các nhà nghiên cứu đã phát triển Nemotron 3.5 Super và Lightning, các mô hình AI mã nguồn mở phù hợp cho việc suy luận, hiểu ngữ cảnh dài và thực hiện tác vụ tự động.
- Kết quả chính
- Mô hình Super đạt 51.78% trong các đánh giá về kỹ thuật phần mềm trong khi sử dụng ít tham số kích hoạt hơn, vượt trội hơn các mô hình trước đây và thể hiện hiệu suất xử lý cao thông qua nhiều tối ưu hóa khác nhau.
- Ý nghĩa
- Nghiên cứu này chứng minh khả năng nâng cao đồng thời hiệu quả và hiệu suất của các mô hình quy mô lớn để chúng có thể được ứng dụng thực tế trong nhiều môi trường khác nhau.
Bối cảnh
Cần có các mô hình AI hiệu quả phù hợp cho khả năng suy luận, hiểu ngữ cảnh dài và các tác vụ tác nhân tự đưa ra quyết định và sử dụng công cụ.
Phương pháp
Các mô hình đã được tối ưu hóa bằng cách kết hợp kiến trúc hỗn hợp chuyên gia với công nghệ Mamba-Transformer, trải qua các quá trình hậu huấn luyện như chưng cất quy mô lớn và học tăng cường.
Kết quả chính
Hiệu suất ngôn ngữ Ấn Độ đã cải thiện tới 9.82 điểm phần trăm, đồng thời đạt được tốc độ xử lý token trên giây cao trên mỗi card đồ họa cùng với thành tích xuất sắc trong các tiêu chuẩn đánh giá kỹ thuật phần mềm.
Hạn chế & điểm cần xác minh
Chỉ dựa vào nội dung tóm tắt, không thể xác nhận các đánh giá chi tiết về các biến số khác nhau hoặc độ ổn định lâu dài trong môi trường dịch vụ thương mại thực tế.
Giải thích thuật ngữ
- Mixture-of-Experts — Kỹ thuật nâng cao hiệu quả bằng cách chỉ kích hoạt một số chuyên gia phù hợp nhất với dữ liệu đầu vào trong số nhiều mô hình
- Tham số — Các giá trị cấu hình mà AI sử dụng để học hỏi và đưa ra quyết định
- Lượng tử hóa — Kỹ thuật làm giảm độ chính xác tính toán của mô hình để tăng tốc độ và giảm mức sử dụng bộ nhớ
Bản tóm tắt này do AI viết dựa trên phần tóm tắt của bài báo và được biên tập viên kiểm tra. Các bản tóm tắt trên trang này được AI dịch từ bản tiếng Hàn đã được biên tập viên kiểm tra. Hãy xem bản gốc để biết số liệu và bối cảnh chính xác.
Trang này tổng hợp các bài báo đã công bố, thông báo chính thức và tin báo chí chỉ nhằm mục đích cung cấp thông tin. Tóm tắt do AI viết dựa trên phần tóm tắt của bài báo và được biên tập viên kiểm tra; có thể khác bản gốc, vì vậy hãy kiểm tra bản gốc cho các nội dung quan trọng. Đây không phải khuyến nghị mua bán chứng khoán hay tư vấn đầu tư. Biến động nhân sự ghi nguồn từ thông báo chính thức hoặc báo chí lớn; một phần lý lịch tham khảo Wikidata (CC0). Các bản tóm tắt trên trang này được AI dịch từ bản tiếng Hàn đã được biên tập viên kiểm tra.
