Google ra mắt AI mã nguồn mở 'Gemma 4' với hiệu năng và hiệu quả được nâng cao

Bối cảnh

Các mô hình AI hiện có phải đối mặt với những thách thức trong việc nâng cao hiệu quả tính toán, tăng cường khả năng suy luận và xử lý các dạng dữ liệu khác nhau. Do đó, Google cần phải phát triển một dòng mô hình mới cải thiện cả hiệu năng lẫn hiệu quả.

Phương pháp

Đã giới thiệu các kiến trúc dày đặc và hỗn hợp chuyên gia với quy mô khác nhau, từ 2,3 tỷ đến 31 tỷ tham số. Đồng thời áp dụng các bộ mã hóa âm thanh-hình ảnh cải tiến và một bộ mã hóa thống nhất xử lý trực tiếp âm thanh và hình ảnh thô, tích hợp 'chế độ tư duy' tạo ra quá trình suy nghĩ trước khi trả lời.

Kết quả chính

Tốc độ tính toán, hiệu quả bộ nhớ và vận hành, cũng như khả năng xử lý ngữ cảnh dài đã được cải thiện. Qua đó, mô hình đã đạt được những bước nhảy vọt về hiệu năng trong các đánh giá STEM, đa phương thức và ngữ cảnh dài, đồng thời cho thấy mức độ cạnh tranh với các mô hình mở tiên tiến có quy mô lớn hơn trong các tác vụ đánh giá bởi con người.

Hạn chế & điểm cần xác minh

Lịch trình thương mại hóa cụ thể hoặc hiệu quả chi phí khi ứng dụng dịch vụ thực tế không thể được xác định từ phần tóm tắt.

Giải thích thuật ngữ

• đa phương thức — Công nghệ hiểu và xử lý đồng thời nhiều dạng thông tin khác nhau như hình ảnh, âm thanh cũng như văn bản.
• tham số — Các giá trị cấu hình mà AI sử dụng để học hỏi và phán đoán, quy mô càng lớn thường có thể thực hiện các tác vụ càng phức tạp.
• suy luận — Quá trình AI trả lời các câu hỏi mới hoặc đưa ra kết luận dựa trên dữ liệu đã học.