Saltar al contenido
hardwai

NVIDIA

¿Qué modelos de IA caben en RTX PRO 6000 Blackwell Server (96 GB)?

Nombre oficial: NVIDIA RTX PRO 6000 Blackwell Server Edition · 96 GB

4 bits≈ 120 Bparámetros máximos
8 bits≈ 69 Bparámetros máximos
16 bits≈ 36 Bparámetros máximos

Estimación teórica con los supuestos de nuestro método. Sin prueba propia.

RTX PRO 6000 Blackwell Server tiene 96 GB de VRAM dedicada (GDDR7), con un ancho de banda de 1597 GB/s según el fabricante. Con nuestros supuestos, puede alojar modelos de hasta unos 120 mil millones de parámetros a 4 bits, 69 mil millones a 8 bits y 36 mil millones a 16 bits. El mayor modelo de nuestra lista de referencia que cabe con margen a 4 bits es NVIDIA-Nemotron-3-Super-120B-A12B (120 B); a 16 bits, Qwen3.6-35B-A3B (35 B). Por memoria utilizable, ocupa el puesto 10 de 12 en centro de datos (referencia para empresas) de nuestro catálogo.

Cómo se reparte la memoria

Sistema y controlador · 4,8 GBPesos del modelo · 73 GBContexto y cachés · 18,2 GB

GPU con VRAM dedicada: 95 % de la VRAM (controlador y pantalla consumen el resto). Del espacio utilizable reservamos un 20 % para contexto (caché KV), activaciones y el motor: un usuario con contexto moderado. Contextos largos o varias personas a la vez necesitan más.

Es una tarjeta: el ordenador que la aloja (fuente, refrigeración, placa y memoria del sistema) se dimensiona aparte. Con varias tarjetas la memoria no se suma automáticamente; depende del motor.

Qué modelos caben

Modelos abiertos de referencia, con los parámetros de su ficha oficial. En los modelos MoE caben todos los parámetros aunque solo se activen algunos por palabra generada. Si un modelo se publica ya en 4 bits o menos (lo indicamos junto al nombre), esa es su columna de referencia.

✓ cabe con margen · ≈ justo, poco contexto · ✕ no cabe. Estimación sin medición de velocidad.
ModeloParámetros4 bits8 bits16 bits
FLUX.2 [klein] 4BBlack Forest Labs · pesos oficiales en BF16 4 B Cabe con margenCabe con margenCabe con margen
FLUX.3 Image [klein]Black Forest Labs · pesos oficiales en BF16 5,6 B Cabe con margenCabe con margenCabe con margen
FLUX.2 [klein] 9BBlack Forest Labs · pesos oficiales en BF16 9 B Cabe con margenCabe con margenCabe con margen
FLUX.1 [dev]Black Forest Labs · pesos oficiales en BF16 12 B Cabe con margenCabe con margenCabe con margen
FLUX.2 [dev]Black Forest Labs · pesos oficiales en BF16 32 B Cabe con margenCabe con margenCabe con margen
DeepSeek-V4-FlashDeepSeek · pesos oficiales en FP4+FP8 284 B13 B activos No cabeNo cabeNo cabe
DeepSeek-V4.1-FlashDeepSeek · pesos oficiales en FP8 552 B16 B activos No cabeNo cabeNo cabe
DeepSeek-V3.2DeepSeek · pesos oficiales en FP8 685 B No cabeNo cabeNo cabe
DeepSeek-R1-0528DeepSeek · pesos oficiales en FP8 685 B No cabeNo cabeNo cabe
DeepSeek-V4-ProDeepSeek · pesos oficiales en FP4+FP8 1600 B49 B activos No cabeNo cabeNo cabe
Gemma 4 E2BGoogle · pesos oficiales en BF16 5,1 B2,3 B activos Cabe con margenCabe con margenCabe con margen
Gemma 4 E4BGoogle · pesos oficiales en BF16 8 B4,5 B activos Cabe con margenCabe con margenCabe con margen
Gemma 4 12BGoogle · pesos oficiales en BF16 12 B Cabe con margenCabe con margenCabe con margen
Gemma 4 26B A4BGoogle · pesos oficiales en BF16 25,2 B3,8 B activos Cabe con margenCabe con margenCabe con margen
Gemma 4 31BGoogle · pesos oficiales en BF16 30,7 B Cabe con margenCabe con margenCabe con margen
granite-4.2-3bIBM · pesos oficiales en BF16 3 B Cabe con margenCabe con margenCabe con margen
granite-4.2-8bIBM · pesos oficiales en BF16 8 B Cabe con margenCabe con margenCabe con margen
granite-4.2-30bIBM · pesos oficiales en BF16 30 B Cabe con margenCabe con margenCabe con margen
Llama-3.1-8B-InstructMeta 8 B Cabe con margenCabe con margenCabe con margen
Llama-3.3-70B-InstructMeta 70 B Cabe con margenJusto: caben los pesos, poco contextoNo cabe
Llama-4-Scout-17B-16E-InstructMeta · pesos oficiales en BF16 109 B17 B activos Cabe con margenNo cabeNo cabe
Llama-4-Maverick-17B-128E-InstructMeta · pesos oficiales en BF16 y FP8 400 B17 B activos No cabeNo cabeNo cabe
Llama-3.1-405B-InstructMeta · pesos oficiales en BF16 405 B No cabeNo cabeNo cabe
Phi-4-mini-instructMicrosoft · pesos oficiales en BF16 3,8 B Cabe con margenCabe con margenCabe con margen
phi-4Microsoft · pesos oficiales en BF16 14 B Cabe con margenCabe con margenCabe con margen
Phi-4-reasoning-vision-15BMicrosoft · pesos oficiales en BF16 15 B Cabe con margenCabe con margenCabe con margen
Ministral-3-14B-Instruct-2512Mistral AI · pesos oficiales en FP8 14 B Cabe con margenCabe con margenCabe con margen
Devstral-Small-2-24B-Instruct-2512Mistral AI · pesos oficiales en FP8 24 B Cabe con margenCabe con margenCabe con margen
Magistral-Small-2509Mistral AI · pesos oficiales en BF16 24 B Cabe con margenCabe con margenCabe con margen
Mistral-Small-4-119B-2603Mistral AI · pesos oficiales en BF16 y FP8 119 B6,5 B activos Cabe con margenNo cabeNo cabe
Devstral-2-123B-Instruct-2512Mistral AI · pesos oficiales en FP8 123 B Justo: caben los pesos, poco contextoNo cabeNo cabe
Mistral-Medium-3.5-128BMistral AI · pesos oficiales en BF16 y FP8 128 B Justo: caben los pesos, poco contextoNo cabeNo cabe
Mistral-Large-3-675B-Instruct-2512Mistral AI · pesos oficiales en FP8 675 B41 B activos No cabeNo cabeNo cabe
Mistral-Large-4-1T-A52BMistral AI · pesos oficiales en FP8 1000 B52 B activos No cabeNo cabeNo cabe
Kimi-K2.6Moonshot AI · pesos oficiales en INT4 nativo 1000 B32 B activos No cabeNo cabeNo cabe
Kimi-K2-Instruct-0905Moonshot AI · pesos oficiales en FP8 (block) 1000 B32 B activos No cabeNo cabeNo cabe
Kimi-K3Moonshot AI · pesos oficiales en MXFP4 (QAT) 2800 B104 B activos No cabeNo cabeNo cabe
Kimi-K3.1-ProMoonshot AI · pesos oficiales en MXFP4 (QAT) 2800 B104 B activos No cabeNo cabeNo cabe
parakeet-tdt-0.6b-v3NVIDIA · pesos oficiales en F32 0,6 B Cabe con margenCabe con margenCabe con margen
canary-1b-v2NVIDIA · pesos oficiales en F32 1 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-3-Nano-4BNVIDIA · pesos oficiales en BF16 4 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-3.5-Bolt-E4BNVIDIA · pesos oficiales en BF16 8 B4 B activos Cabe con margenCabe con margenCabe con margen
Cosmos-Reason2-8BNVIDIA · pesos oficiales en BF16 8,8 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-Nano-9B-v2NVIDIA · pesos oficiales en BF16 9 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-Nano-12B-v2-VLNVIDIA · pesos oficiales en BF16 12,6 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-3-Nano-30B-A3BNVIDIA · pesos oficiales en BF16 30 B3,5 B activos Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-3.5-Lightning-30B-A3BNVIDIA · pesos oficiales en BF16 30 B3 B activos Cabe con margenCabe con margenCabe con margen
Nemotron-3-Nano-Omni-30B-A3B-ReasoningNVIDIA · pesos oficiales en BF16 31 B3 B activos Cabe con margenCabe con margenCabe con margen
OpenReasoning-Nemotron-32BNVIDIA · pesos oficiales en BF16 32 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-3.5-Transcribe-30B-A4BNVIDIA · pesos oficiales en BF16 34 B4,3 B activos Cabe con margenCabe con margenCabe con margen
Llama-3.3-Nemotron-Super-49B-v1.5NVIDIA · pesos oficiales en BF16 50 B Cabe con margenCabe con margenNo cabe
Cosmos3-SuperNVIDIA · pesos oficiales en BF16 64 B Cabe con margenCabe con margenNo cabe
NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GBNVIDIA · pesos oficiales en IQ2 (2 bits, QAT) 74 B9 B activos Cabe con margenJusto: caben los pesos, poco contextoNo cabe
NVIDIA-Nemotron-3-Super-120B-A12BNVIDIA · pesos oficiales en BF16 120 B12 B activos Cabe con margenNo cabeNo cabe
NVIDIA-Nemotron-3.5-Super-VL-120B-A12BNVIDIA · pesos oficiales en BF16 120 B12 B activos Cabe con margenNo cabeNo cabe
Llama-3.1-Nemotron-Ultra-253B-v1NVIDIA · pesos oficiales en BF16 253 B No cabeNo cabeNo cabe
NVIDIA-Nemotron-3-Ultra-550B-A55BNVIDIA · pesos oficiales en BF16 550 B55 B activos No cabeNo cabeNo cabe
whisper-large-v3-turboOpenAI · pesos oficiales en F16 0,8 B Cabe con margenCabe con margenCabe con margen
whisper-large-v3OpenAI · pesos oficiales en F16 1,6 B Cabe con margenCabe con margenCabe con margen
gpt-oss-20bOpenAI · pesos oficiales en MXFP4 21 B3,6 B activos Cabe con margenCabe con margenCabe con margen
gpt-oss-120bOpenAI · pesos oficiales en MXFP4 117 B5,1 B activos Cabe con margenNo cabeNo cabe
Qwen3.5-4BQwen (Alibaba) · pesos oficiales en BF16 4 B Cabe con margenCabe con margenCabe con margen
Qwen-Image-2.1Qwen (Alibaba) · pesos oficiales en BF16 7 B Cabe con margenCabe con margenCabe con margen
Qwen3.5-9BQwen (Alibaba) · pesos oficiales en BF16 9 B Cabe con margenCabe con margenCabe con margen
Qwen3.8-27BQwen (Alibaba) · pesos oficiales en BF16 27 B Cabe con margenCabe con margenCabe con margen
Qwen3.6-35B-A3BQwen (Alibaba) · pesos oficiales en BF16 35 B3 B activos Cabe con margenCabe con margenCabe con margen
Qwen3-Coder-NextQwen (Alibaba) · pesos oficiales en BF16 80 B3 B activos Cabe con margenJusto: caben los pesos, poco contextoNo cabe
Qwen3.5-122B-A10BQwen (Alibaba) · pesos oficiales en BF16 122 B10 B activos Justo: caben los pesos, poco contextoNo cabeNo cabe
Qwen3.8-Flash-NextQwen (Alibaba) · pesos oficiales en BF16 125 B6 B activos Justo: caben los pesos, poco contextoNo cabeNo cabe
Qwen3.5-397B-A17BQwen (Alibaba) · pesos oficiales en BF16 397 B17 B activos No cabeNo cabeNo cabe
Qwen3.8-2.4T-A95BQwen (Alibaba) · pesos oficiales en BF16 2400 B95 B activos No cabeNo cabeNo cabe
Stable Diffusion 3.5 MediumStability AI · pesos oficiales en BF16 2 B Cabe con margenCabe con margenCabe con margen
Stable Diffusion 3.5 LargeStability AI · pesos oficiales en BF16 8 B Cabe con margenCabe con margenCabe con margen
Wan2.2-TI2V-5BWan-AI (Alibaba) 5 B Cabe con margenCabe con margenCabe con margen
Wan2.2-T2V-A14BWan-AI (Alibaba) 27 B14 B activos Cabe con margenCabe con margenCabe con margen
GLM-4.7-FlashZhipu AI (Z.ai) · pesos oficiales en BF16 30 B3 B activos Cabe con margenCabe con margenCabe con margen
GLM-4.5-AirZhipu AI (Z.ai) · pesos oficiales en BF16 106 B12 B activos Cabe con margenNo cabeNo cabe
GLM-5.3-FlashZhipu AI (Z.ai) · pesos oficiales en FP8 y BF16 320 B18 B activos No cabeNo cabeNo cabe
GLM-5.3Zhipu AI (Z.ai) · pesos oficiales en FP8 y BF16 753 B No cabeNo cabeNo cabe

Equipos con memoria parecida

Otros equipos del catálogo con una memoria utilizable similar (±35 %), de cualquier tipo. Útil para comparar formatos: tarjeta, mini PC, Mac o sistema NVIDIA.

Ficha técnica

Memoria96 GB · VRAM dedicada
Detalle de memoria96 GB GDDR7 con ECC; aire doble ranura FHFL o líquida ranura simple FHXL
TecnologíaGDDR7
Ancho de banda1597 GB/s
Chip o plataformaBlackwell
Formatotarjeta
Consumo600 W
Estadodesconocido

Qué falta confirmar

  • Referencia para empresas, no afiliable. Estado de mercado no evaluado.
  • consumo_w = TDP máximo configurable de la ficha.

Fuentes

  • www.nvidia.com — 96 GB GDDR7 ECC, 1597 GB/s, hasta 600 W, formatos aire/líquida. Consulta: 16 de noviembre de 2026.

Sin precios todavía: los añadiremos cuando estén verificados, con su fecha y su comercio.