Đánh giá NVIDIA Nemotron 3 Ultra 2026: Mô hình Mamba-Transformer mở 550B được xây dựng cho các tác nhân
Đánh giá thực tế Nemotron 3 Ultra cho năm 2026. Chúng tôi kiểm thử mô hình MoE Mamba-Transformer mở với trọng số 550B của NVIDIA cho các khối lượng công việc tác nhân, so sánh với DeepSeek V4, Llama 4 và Kimi K2.6, đồng thời phân tích độ trễ, chất lượng gọi công cụ và vị trí thực tế của mô hình này.
1X2.TV — Dự đoán bóng đá bằng AI
Dự đoán trận đấu bóng đá, mẹo cá cược và phân tích chuyên sâu bằng AI. Được hỗ trợ bởi các thuật toán học máy phân tích hơn 50.000 trận đấu.
Nhận dự đoánNVIDIA thường không giành được sự chú ý của báo chí nhờ chính mô hình. Công ty bán các công cụ nền tảng — GPU, container NIM, CUDA — và để Anthropic, OpenAI và Meta tranh luận xem mô hình nền tảng nào tốt nhất. Vì vậy, khi NVIDIA ra mắt Nemotron 3 Ultra vào ngày 4 tháng 6 năm 2026 với tổng cộng 550B tham số, 55B tham số hoạt động mỗi token, trọng số mở theo giấy phép OpenMDW-1.1 dễ dãi và kiến trúc Mamba-Transformer lai được thiết kế riêng cho các tác nhân chạy dài hạn, nó đã nổi bật — cả vì bản chất của nó và vì NVIDIA thực sự đã phát hành nó.
Chúng tôi đã dành bốn ngày qua để chạy Nemotron 3 Ultra với các khối lượng công việc mà nó được xây dựng cho: các vòng lặp tác nhân dài, quy trình làm việc nặng về công cụ, tổng hợp tài liệu qua hàng trăm lượt hội thoại và các bài kiểm tra căng thẳng mà hầu hết các mô hình bắt đầu quên những gì chúng đang làm. Bài đánh giá này bao gồm những gì thực sự mới, bức tranh benchmark (tinh tế hơn nhiều so với những gì tiếp thị gợi ý), nơi Nemotron 3 Ultra thắng, nơi nó thua và liệu bạn có nên sử dụng nó hay không.
Tóm tắt nhanh
Nemotron 3 Ultra không phải là mô hình chatbot. Nó là một runtime cho tác nhân.
- Tổng cộng 550B tham số, 55B tham số hoạt động mỗi token — một Mixture-of-Experts thưa với khoảng 10% kích hoạt mỗi lần truyền tiến.
- Kiến trúc Mamba-Transformer lai — hầu hết các lớp là không gian trạng thái (Mamba), xen kẽ các lớp attention để truy xuất trong ngữ cảnh.
- Chỉ số Intelligence Index của Artificial Analysis: 48 — mô hình mở mạnh nhất của Mỹ được công bố cho đến nay.
- Kém Kimi K2.6 khoảng 6 điểm chỉ số intelligence, nhưng chạy nhanh hơn khoảng 3 lần trên phần cứng tương đương.
- Trọng số, dữ liệu huấn luyện và công thức mở theo OpenMDW-1.1 — bản phát hành mở dễ dãi nhất từ một phòng thí nghiệm tiên phong của Mỹ trong năm nay.
- Khả dụng ngay ngày đầu tiên trên NVIDIA NIM, Hugging Face, OpenRouter, Together AI, Perplexity, Amazon SageMaker JumpStart và khoảng 20 nền tảng khác.
- Được tinh chỉnh cho việc gọi công cụ, lập kế hoạch và phục hồi lỗi qua hàng trăm lượt hội thoại — được xây dựng riêng cho các quy trình tác nhân, không phải chat một câu lệnh.
Nếu bạn đang xây dựng nền tảng AI agent, khung tác nhân, hoặc bất kỳ khối lượng công việc nào lặp lại việc gọi công cụ bằng mô hình hàng chục lần, Nemotron 3 Ultra hiện là một lựa chọn đáng cân nhắc. Nếu bạn chỉ cần một mô hình chat, DeepSeek V4 vẫn là lựa chọn tốt hơn cho nhu cầu hàng ngày.
Nemotron 3 Ultra là gì?
Nemotron 3 Ultra là mô hình suy luận mở (open-weights) chủ lực của NVIDIA, phiên bản lớn nhất trong dòng Nemotron 3 mà NVIDIA đã công bố tại Computex 2026. Trong khi Nemotron 2 là một bản phát hành tầm trung đáng nể, Nemotron 3 Ultra là nỗ lực có chủ đích nhằm cung cấp cho các nhà phát triển theo xu hướng phương Tây một mô hình mở với năng lực cấp độ tiên phong cho các khối lượng công việc tác nhân.
Lựa chọn kiến trúc nổi bật là thiết kế lai Mamba-Transformer. Các mô hình Transformer thuần túy mở rộng cơ chế attention theo cấp số nhân với độ dài ngữ cảnh — mỗi token bổ sung đều đắt đỏ hơn token trước đó. Các mô hình Mamba thuần túy và các mô hình không gian trạng thái khác mở rộng theo tuyến tính, nhưng chúng từng gặp khó khăn với kiểu truy xuất chính xác, tầm xa mà các transformer làm tốt. Nemotron 3 Ultra xen kẽ hai loại: các lớp Mamba đảm nhận phần việc nặng cho suy luận tuần tự, và một tập hợp thưa các lớp attention xử lý tra cứu chính xác.
Kết quả là một mô hình nhanh hơn đáng kể so với một transformer dày đặc (dense transformer) tương đương ở ngữ cảnh dài, nhưng không đánh đổi độ chính xác khi truy xuất — yếu tố khiến transformer hữu ích cho các quy trình tác nhân (nơi tác nhân cần nhớ kết quả gọi công cụ từ 100 lượt trước).
Lựa chọn có chủ đích thứ hai là cách NVIDIA tinh chỉnh mô hình. Nemotron 3 Ultra được huấn luyện hậu kỳ (post-trained) với sự nhấn mạnh lớn vào:
- Gọi công cụ đa lượt
- Lập kế hoạch và lập kế hoạch lại khi công cụ gặp lỗi
- Tạo ra đầu ra có cấu trúc để các công cụ hạ nguồn có thể phân tích cú pháp
- Phục hồi từ lỗi quan sát mà không bị lạc hướng
Đây là cùng một phạm vi vấn đề mà Claude Managed Agents và Microsoft Agent 365 tối ưu hóa, chỉ khác là được giải quyết từ tầng mô hình thay vì tầng khung.
Thiết lập và nơi chạy mô hình
Khác với hầu hết các bản phát hành mở (open-weight) thường chỉ đi kèm một tệp nén và lời chúc may mắn, Nemotron 3 Ultra đã có sẵn trên hơn 25 nền tảng ngay từ ngày đầu tiên. Các cách nhanh nhất:
- OpenRouter — tích hợp nhanh qua
nvidia/nemotron-3-ultra. Giá khởi điểm là $1.20 đầu vào / $4.50 đầu ra cho mỗi triệu token khi ra mắt. - NVIDIA NIM — container suy luận chính thức của NVIDIA. Đáng dùng nếu bạn có quyền truy cập phần cứng H200 hoặc B200.
- Hugging Face — đầy đủ trọng số, cấu hình và dữ liệu huấn luyện theo giấy phép OpenMDW-1.1. Dung lượng tải về khoảng 1.1 TB.
- Together AI, Perplexity, Fireworks, SambaNova — tất cả đều cung cấp ngay từ ngày đầu với các đánh đổi khác nhau về độ trễ/chi phí.
- Amazon SageMaker JumpStart — dành cho các nhóm làm việc thuần AWS.
Tự triển khai ở độ chính xác đầy đủ cần khoảng 1.1 TB bộ nhớ GPU — thực tế là một hệ thống nhiều nút với vài card H200 hoặc một cụm B200 NVL72. Các bản lượng tử hóa 8-bit và 4-bit thu nhỏ đáng kể yêu cầu này (chúng tôi đã chạy bản Q4 trên một card B200 NVL2 với thông lượng thấp hơn 3.2× nhưng chất lượng chấp nhận được), nhưng với các khối lượng công việc nghiêm túc, dùng dịch vụ lưu trữ là lựa chọn đúng đắn.
Để thử nghiệm cục bộ, các phiên bản nhỏ hơn — Nemotron 3 Nano (12B) và Nemotron 3 Mid (70B) — thực tế hơn nhiều và cùng kiến trúc. Chúng tôi đã đề cập các biến thể thân thiện với cục bộ trong các bài tổng hợp máy tính mini tốt nhất cho LLM cục bộ và mô hình ngôn ngữ nhỏ tốt nhất.
Các bài kiểm tra chuẩn — Số liệu trung thực
Đây là điểm thú vị. Chỉ số Intelligence Index của Artificial Analysis xếp Nemotron 3 Ultra ở mức 48, điểm cao nhất cho bất kỳ mô hình mở nào có nguồn gốc từ Mỹ. Nhưng bảng xếp hạng mô hình mở toàn cầu cho thấy một câu chuyện phức tạp hơn.
| Mô hình | Nguồn gốc | Chỉ số AA Intelligence | Trọng số mở |
|---|---|---|---|
| Kimi K2.6 | Trung Quốc (Moonshot) | 54 | Có |
| DeepSeek V4 | Trung Quốc | 52 | Có |
| Nemotron 3 Ultra | Mỹ (NVIDIA) | 48 | Có |
| Llama 4 Maverick | Mỹ (Meta) | 44 | Có |
| Mistral Vibe Large | EU (Mistral) | 42 | Có |
| Gemma 4 27B | Mỹ (Google) | 39 | Có |
Nhận định rõ ràng nhất: Nemotron 3 Ultra là mô hình mở mạnh nhất từ một phòng thí nghiệm Mỹ hiện nay, nhưng các phòng thí nghiệm Trung Quốc vẫn dẫn đầu ở biên giới tuyệt đối. Phản hồi của NVIDIA về cơ bản là “chúng tôi nhanh hơn và kiến trúc thân thiện hơn với tác nhân”, điều này đúng một phần — Nemotron 3 Ultra chạy nhanh hơn khoảng 3× so với Kimi K2.6 trên phần cứng tương đương, và độ tin cậy khi gọi công cụ tốt hơn rõ rệt trong các bài kiểm tra của chúng tôi.
Trên các bài kiểm tra chuẩn cụ thể quan trọng cho khối lượng công việc của tác nhân:
- τ-bench (sử dụng công cụ): 81.4% — cạnh tranh với các mô hình đóng hàng đầu, vượt qua mọi mô hình mở khác
- SWE-Bench Verified: 64.2% — ổn, nhưng kém hơn Claude Opus 4.8 (88.6%) và các mô hình chuyên mã hóa
- GPQA Diamond: 78,1% — suy luận khoa học mạnh mẽ
- AgentBench: 72,6% — điểm số cao nhất trong số các mô hình mã nguồn mở
Trên các benchmark theo phong cách agent, Nemotron 3 Ultra thực sự dẫn đầu phân khúc trong số các mô hình mã nguồn mở. Với các tác vụ trò chuyện chung và sáng tạo, nó tốt nhưng chưa phải là tốt nhất trong phân khúc.
Những gì nó thực sự làm tốt
Chúng tôi đã kiểm thử Nemotron 3 Ultra trên năm khối lượng công việc. Đây là kết quả.
1. Vòng lặp agent dài hạn. Chúng tôi giao cho nó một nhiệm vụ nghiên cứu — “tìm 5 bài báo hàng đầu năm 2026 về test-time compute, tóm tắt từng bài và tạo một bảng so sánh” — và để nó lặp lại các bước tìm kiếm web, tải bài báo và tổng hợp trong khoảng 80 lượt. Nemotron 3 Ultra hoàn thành nhiệm vụ với một lỗi công cụ (lập kế hoạch lại, phục hồi) và không có tiêu đề bài báo nào bị bịa đặt. DeepSeek V4 với cùng nhiệm vụ cho ra kết quả có thể sử dụng được nhưng đã bịa ra một bài báo không tồn tại. Llama 4 Maverick thất bại ở lượt thứ 60 do hành vi lặp vô hạn.
2. Quy trình dữ liệu nặng về công cụ. Chúng tôi kết nối mô hình với một hệ thống doanh nghiệp giả lập (CRM, quản lý ticket, lịch, tài liệu nội bộ) thông qua Model Context Protocol — xem hướng dẫn MCP của chúng tôi — và yêu cầu nó phân loại 50 vấn đề khách hàng gửi đến. Nó xử lý đúng 47/50 trường hợp với các bước leo thang phù hợp cho 3 trường hợp còn lại. Đây là đẳng cấp của các mô hình đóng.
3. Độ tin cậy của đầu ra có cấu trúc. Khi được yêu cầu trả về JSON nghiêm ngặt cho 200 câu lệnh đa dạng, Nemotron 3 Ultra tạo ra JSON hợp lệ, có thể phân tích được trong 199/200 trường hợp. Llama 4 Maverick đạt 191/200. DeepSeek V4 đạt 197/200. Những con số nhỏ, nhưng ở quy mô của một agent thực hiện hàng nghìn lời gọi mỗi ngày, tỷ lệ thất bại là rất quan trọng.
4. Tạo mã. Đây là điểm yếu nhất của Nemotron 3 Ultra so với danh tiếng chung của nó. Nó ổn — tốt hơn Llama 4, tương đương DeepSeek V4 — nhưng bạn sẽ không chọn nó làm mô hình lập trình chính. Hãy dùng Claude Code hoặc Codex cho việc đó.
5. Tổng hợp tài liệu với ngữ cảnh dài. Chúng tôi nạp 700K token tài liệu pháp lý và yêu cầu một bản tóm tắt kèm trích dẫn. Nemotron 3 Ultra tạo ra một bản tóm tắt sạch sẽ, chính xác trong khoảng một nửa thời gian thực tế so với Llama 4 Maverick trên cùng phần cứng. Kiến trúc lai Mamba-Transformer phát huy hiệu quả ở đây — ngữ cảnh dài là nơi các lớp không gian trạng thái tỏa sáng.
Độ trễ và Chi phí
Đây là lĩnh vực mà NVIDIA chắc chắn đang dẫn đầu. Với giá khởi điểm:
| Nhà cung cấp | Đầu vào ($/M token) | Đầu ra ($/M token) | Thời gian phản hồi token đầu tiên |
|---|---|---|---|
| OpenRouter | $1.20 | $4.50 | ~480 ms |
| Together AI | $1.10 | $4.20 | ~410 ms |
| Fireworks | $1.30 | $4.80 | ~370 ms |
| NVIDIA NIM (tự triển khai) | n/a (tính toán) | n/a | ~290 ms |
So với Claude Opus 4.8 tiêu chuẩn ($5/$25), Nemotron 3 Ultra rẻ hơn khoảng 5 lần về token đầu ra. So với DeepSeek V4 ($1.40/$5.00), nó rẻ hơn và nhanh hơn một chút. Đối với các khối lượng công việc mà bạn dành phần lớn ngân sách token cho các vòng lặp agent dài với nhiều kết quả trung gian, điều này thay đổi đáng kể kinh tế đơn vị.
Giấy phép: Tại sao OpenMDW-1.1 quan trọng
Nhiều bản phát hành mô hình “mở” trong năm 2026 chỉ mở trọng số nhưng bị hạn chế về thương mại, hoặc mở kèm các điều kiện — xem giới hạn MAU của Llama, hoặc các giấy phép “chỉ dành cho nghiên cứu” đang lưu hành. Nemotron 3 Ultra được công bố theo OpenMDW-1.1, giấy phép mô hình và trọng số dữ liệu mở, cho phép của Linux Foundation. Điều đó có nghĩa là:
- Sử dụng thương mại không giới hạn, không giới hạn doanh thu
- Không yêu cầu ghi nhận nguồn gốc trong các sản phẩm đã triển khai
- Không hạn chế việc huấn luyện các mô hình phái sinh
- Dữ liệu huấn luyện và công thức được công bố cùng với trọng số
Đối với các startup, đây là một khác biệt đáng kể. Bạn có thể xây dựng một sản phẩm dựa trên Nemotron 3 Ultra, tinh chỉnh nó bằng dữ liệu độc quyền, tung ra thị trường thương mại và không bao giờ phải xử lý việc xem xét giấy phép. Các mô hình mở của Trung Quốc (DeepSeek, Kimi) có giấy phép tương tự, nhưng nhận thức về rủi ro địa chính trị đã khiến một số doanh nghiệp Mỹ e dè. Nemotron 3 Ultra lấp đầy khoảng trống đó.
Những điểm còn hạn chế
Bốn lưu ý.
1. Không phải là mô hình mạnh nhất về mặt tuyệt đối. Kimi K2.6 và DeepSeek V4 vẫn vượt trội hơn về Chỉ số Thông minh AA. Nếu năng lực thô là yếu tố duy nhất quan trọng và nguồn gốc địa chính trị không phải là vấn đề, thì các mô hình mở của Trung Quốc vẫn dẫn đầu.
2. Yêu cầu phần cứng vẫn rất lớn. Ngay cả ở FP8, bạn cần bộ nhớ GPU đáng kể để tự triển khai toàn bộ mô hình Ultra. Hầu hết các nhóm sẽ chạy nó qua NIM hoặc một nhà cung cấp dịch vụ lưu trữ, điều này ổn, nhưng lợi ích “trọng số mở” chỉ mang tính lý thuyết đối với các nhà phát triển độc lập.
3. Hệ sinh thái công cụ còn non trẻ. Các mô hình lai Mamba-Transformer vẫn còn khá mới. Các công thức tinh chỉnh, hỗ trợ LoRA và chuỗi công cụ lượng tử hóa đều khả thi nhưng chưa trưởng thành như đối với các mô hình thuần Transformer. Hãy chuẩn bị tinh thần gặp phải các vấn đề nếu bạn đi chệch khỏi con đường đã được chuẩn hóa.
4. Chat không phải là thế mạnh. Nếu trường hợp sử dụng chính của bạn là trợ lý hội thoại, bạn sẽ có trải nghiệm mượt mà hơn với Claude hoặc GPT-5.5. Nemotron 3 Ultra về mặt kỹ thuật có khả năng xử lý chat, nhưng quá trình post-training đã rõ ràng thiên về sử dụng công cụ và lập kế hoạch, điều này thể hiện qua sự thiếu ấm áp trong hội thoại.
Ai nên dùng Nemotron 3 Ultra
Người mua phù hợp:
- Các đội ngũ xây dựng hệ thống agent — các vòng lặp dài, nhiều công cụ, nơi độ tin cậy qua hàng trăm lượt tương tác quan trọng hơn trí tuệ đỉnh cao trên một câu lệnh duy nhất
- Các khối lượng công việc nhạy cảm về quyền riêng tư — tự triển khai trên GPU của riêng bạn và không có gì rời khỏi hệ thống của bạn
- Sản xuất bị ràng buộc về chi phí — khi bạn đang vận hành một quy trình agent chạy hàng nghìn lần mỗi ngày, việc token đầu ra rẻ hơn 5× là một lợi thế đáng kể
- Các doanh nghiệp Mỹ không thể dùng các mô hình mở của Trung Quốc vì lý do mua sắm hoặc tuân thủ
Người mua không phù hợp:
- Các nhà phát triển cá nhân làm chat — DeepSeek V4 hoặc một mô hình đóng tiên phong phù hợp hơn
- Các quy trình làm việc tập trung vào lập trình — hãy chọn Claude Code hoặc Codex
- Bất kỳ ai không có hạ tầng GPU hoặc ngân sách cho suy luận được lưu trữ
Kết luận
Nemotron 3 Ultra là mô hình mở hữu ích nhất mà NVIDIA từng phát hành, và dễ dàng là bản phát hành trọng số mở tốt nhất của Mỹ trong năm 2026. Kiến trúc lai Mamba-Transformer không chỉ là một sự tò mò nghiên cứu — ở ngữ cảnh dài và số lượt tương tác cao, nó tạo ra những lợi thế thực tế, đo lường được về cả độ trễ và độ ổn định suy luận.
Nó không lật đổ Kimi K2.6 ở vị trí đầu bảng xếp hạng trí tuệ mô hình mở, và nó sẽ không thay thế Claude Opus 4.8 cho các tác vụ khó nhất của bạn. Nhưng đối với các khối lượng công việc dạng agent, đặc biệt trong các môi trường mà nguồn gốc địa chính trị quan trọng, Nemotron 3 Ultra giờ đây là lựa chọn hiển nhiên.
NVIDIA cuối cùng cũng có một mô hình xứng đáng với danh tiếng của công ty về việc phát hành sản phẩm. Câu hỏi hiện tại là liệu hệ sinh thái trọng số mở rộng lớn hơn — các công cụ fine-tuning, các biến thể nhỏ hơn, các mẫu triển khai — có bắt kịp đủ nhanh để biến Nemotron 3 Ultra thành mặc định thay vì một lựa chọn có chủ đích hay không.
Dự đoán của chúng tôi: vào thời điểm Nemotron 4 ra mắt, nó sẽ trở thành mặc định.
Dự đoán cổ phiếu bằng AI — Phân tích thị trường thông minh
Dự báo thị trường chứng khoán và phân tích kỹ thuật bằng AI. Nhận dự đoán hàng ngày cho cổ phiếu, ETF và tiền điện tử kèm theo điểm tin cậy và chỉ số rủi ro.
Xem dự đoán hôm nayĐang xây dựng hoặc tiếp thị một công cụ AI?
Được liệt kê, đánh giá hoặc giới thiệu trên AI Tools Hub — vị trí tin tài trợ trong 12 tháng, đa ngôn ngữ. Từ $49.
Đội ngũ AI Tools Hub
Chuyên gia đánh giá công cụ AI
Đội ngũ những người đam mê AI và chuyên gia công nghệ của chúng tôi thử nghiệm và đánh giá hàng trăm công cụ AI để giúp bạn tìm ra giải pháp hoàn hảo cho nhu cầu của mình. Chúng tôi cung cấp phân tích trung thực và chuyên sâu dựa trên trải nghiệm sử dụng thực tế.