所有標籤NVIDIA-Nemotron-Labs-Dory1.0-4B:4B 參數 looped(latent-recurrent)normalized-GPT,8 層 Input+20 層共享 Recurrent block(可重複套用 1/2/4 次)+8 層 Output,256K context,OpenMDW-1.1(近似 MIT)授權;2026-10-16 無官方部落格直接悄悄上架 Hugging Face;SWE-bench Verified 1/2/4 loop 分別 50.3%/57.4%/73.4%(4-loop 為引用分,非 NVIDIA 完整自測),2-loop 大致追平同量級 dense 模型 Qwen3.5-4B/3.5-9B;賣點是同一 checkpoint 靠改變循環次數在推理時彈性切換運算量,不需換模型或重新訓練;vLLM/llama.cpp 支援仍在 PR 審查中,尚無官方或第三方 API 定價。
Nemotron 涵蓋文字推理、多模態理解與安全分類;Ultra、Super、Lightning、Nano Omni 及 Content Safety 的架構、上下文與授權不同。本文區分官方模型規格與 API 端點限制。
TensorRT-LLM 是 NVIDIA 的開源 LLM 推論庫(Apache 2.0),用離線編譯把模型權重與計算圖轉成最佳化的 TensorRT engine,再用自訂 CUDA kernel、in-flight batching 與多種平行化壓出硬體極限。代價是只支援 NVIDIA GPU、編譯要數十分鐘、換模型或量化就要重新 build。
Triton Inference Server 用統一的 HTTP/gRPC 介面服務 TensorRT、ONNX、PyTorch 等模型,核心能力是 model repository、動態批次、instance group 與 ensemble;它適合異質模型平台,不是專為 LLM KV cache 打造的引擎。
NVIDIA 生成式 AI 線有四張:NCA-GENL、NCA-GENM(各 $125,associate)、NCP-GENL、NCP-AAI(各 $200,professional)。選之前先看三件別家沒有的事:一、兩張 professional 的 Register 按鈕都標著「Coming soon」,近期計畫直接只剩兩張 associate;二、官方建議教材的成本兩級差很多:兩張 associate 在 2026 年秋天換成一份免費的開源教材加一門課,兩張 professional 仍是五門付費課,NCP-GENL 官方清單列價合計 $1,620;三、官方網頁與 PDF 有幾處對不上——NCP-AAI 有兩項權重不同,NCP-GENL 網頁表格有兩格描述錯置,這兩張準備時要以 PDF 為準或當成區間看。另外綁定程度差很多:NCP-AAI 只有 7% 綁 NVIDIA 產品,NCP-GENL 有 31% 在考 GPU 與模型壓縮。
NCA-GENL 是職缺點名「NVIDIA Generative AI / LLM 相關認證」時最常指的那張。但官方 blueprint 的權重跟名字落差很大——Core Machine Learning and AI Knowledge 30%、Software Development 24%、Experimentation 22%、Data Analysis 14%、Trustworthy AI 10%,LLM 與 RAG 的內容散在條目層而不是自成一塊,spaCy、NumPy、Keras、cross validation 都在考。另一個要先知道的:官方的建議教材在 2026 年秋天整個換過,現在每一塊只推兩項,一份放在 GitHub 上的免費開源深度學習教材,加一門 LLM 應用開發課。官方規格:$125、1 小時、50–60 題、效期兩年、僅英文、pass/fail 不給分數。
NCA-GENM 與 NCA-GENL 同價同時長同級別,但重心完全不同:Experimentation 升到 25%(最重),Core ML 從 30% 降到 20%,並多出 Multimodal Data 15% 與 Performance Optimization 10% 兩塊。內容上考 U-Net、CLIP、擴散模型、多模態損失函數、attention map,以及 Riva/NeMo/Triton/ACE 這幾個 NVIDIA SDK。官方的建議教材在 2026 年秋天整個換過:現在只推一份放在 GitHub 上的免費開源深度學習教材,加一門多模態 agent 的課,而且各塊配的不一樣,最重的 Experimentation 只配免費教材。官方規格:$125、1 小時、50–60 題、效期兩年、僅英文。
NCP-AAI 是 NVIDIA 的 agentic AI 專業級認證,$200、120 分鐘、60–70 題、效期兩年。十個領域裡最重的是 Agent Architecture and Design 15% 與 Agent Development 15%,只有 NVIDIA Platform Implementation 7% 明確綁自家產品,其餘是通用的 agentic 工程。兩件事要先知道:官方頁面的 Register 按鈕旁標著「Coming soon」,現在還不能報名;官方網頁與 PDF study guide 有兩項權重不同(Deployment and Scaling 13% 對 5%、Run/Monitor/Maintain 5% 對 7%),配時間時當成區間看。
NCP-GENL 是 NVIDIA 的 LLM 專業級認證,$200、120 分鐘、60–70 題。它跟其他 GenAI 證照最大的差別在重心:Model Optimization 17% 加 GPU Acceleration 14% 合計 31%,考的是量化、蒸餾、剪枝、分散式平行與 CUDA profiling,不是接 API。兩個要先知道的:官方頁面的 Register 標著 Coming soon,還不能報名;官方網頁權重表裡 Model Optimization 與 Fine-Tuning 兩格的描述文字錯置,這兩塊要照官方 PDF study guide 準備。
NVIDIA DGX Spark 搭載 GB10 Grace Blackwell Superchip,128GB 統一記憶體,提供 1 petaFLOP FP4 算力,售價約 $3,999 美元起。適合開發者在本地跑 200B 參數模型、fine-tune 70B 模型,是目前最容易入手的 NVIDIA AI 開發平台。