Saltar al contenido
hardwai

AMD

¿Qué modelos de IA caben en AMD Instinct MI300X (192 GB)?

Nombre oficial: AMD Instinct MI300X · 192 GB

4 bits≈ 245 Bparámetros máximos
8 bits≈ 140 Bparámetros máximos
16 bits≈ 73 Bparámetros máximos

Estimación teórica con los supuestos de nuestro método. Sin prueba propia.

Foto oficial de Render del módulo OAM MI300X (disipador y placa con el chip), fondo oscuro (1200×675)
Foto: AMD · ficha oficial

AMD Instinct MI300X tiene 192 GB de VRAM dedicada (HBM3 (8192-bit)), con un ancho de banda de 5300 GB/s según el fabricante. Con nuestros supuestos, puede alojar modelos de hasta unos 245 mil millones de parámetros a 4 bits, 140 mil millones a 8 bits y 73 mil millones a 16 bits. El mayor modelo de nuestra lista de referencia que cabe con margen a 4 bits es Mistral-Medium-3.5-128B (128 B); a 16 bits, Llama-3.3-70B-Instruct (70 B). Por memoria utilizable, ocupa el puesto 8 de 12 en centro de datos (referencia para empresas) de nuestro catálogo.

Cómo se reparte la memoria

Sistema y controlador · 9,6 GBPesos del modelo · 145,9 GBContexto y cachés · 36,5 GB

GPU con VRAM dedicada: 95 % de la VRAM (controlador y pantalla consumen el resto). Del espacio utilizable reservamos un 20 % para contexto (caché KV), activaciones y el motor: un usuario con contexto moderado. Contextos largos o varias personas a la vez necesitan más.

Es una tarjeta: el ordenador que la aloja (fuente, refrigeración, placa y memoria del sistema) se dimensiona aparte. Con varias tarjetas la memoria no se suma automáticamente; depende del motor.

Qué modelos caben

Modelos abiertos de referencia, con los parámetros de su ficha oficial. En los modelos MoE caben todos los parámetros aunque solo se activen algunos por palabra generada. Si un modelo se publica ya en 4 bits o menos (lo indicamos junto al nombre), esa es su columna de referencia.

✓ cabe con margen · ≈ justo, poco contexto · ✕ no cabe. Estimación sin medición de velocidad.
ModeloParámetros4 bits8 bits16 bits
FLUX.2 [klein] 4BBlack Forest Labs · pesos oficiales en BF16 4 B Cabe con margenCabe con margenCabe con margen
FLUX.3 Image [klein]Black Forest Labs · pesos oficiales en BF16 5,6 B Cabe con margenCabe con margenCabe con margen
FLUX.2 [klein] 9BBlack Forest Labs · pesos oficiales en BF16 9 B Cabe con margenCabe con margenCabe con margen
FLUX.1 [dev]Black Forest Labs · pesos oficiales en BF16 12 B Cabe con margenCabe con margenCabe con margen
FLUX.2 [dev]Black Forest Labs · pesos oficiales en BF16 32 B Cabe con margenCabe con margenCabe con margen
DeepSeek-V4-FlashDeepSeek · pesos oficiales en FP4+FP8 284 B13 B activos Justo: caben los pesos, poco contextoNo cabeNo cabe
DeepSeek-V4.1-FlashDeepSeek · pesos oficiales en FP8 552 B16 B activos No cabeNo cabeNo cabe
DeepSeek-V3.2DeepSeek · pesos oficiales en FP8 685 B No cabeNo cabeNo cabe
DeepSeek-R1-0528DeepSeek · pesos oficiales en FP8 685 B No cabeNo cabeNo cabe
DeepSeek-V4-ProDeepSeek · pesos oficiales en FP4+FP8 1600 B49 B activos No cabeNo cabeNo cabe
Gemma 4 E2BGoogle · pesos oficiales en BF16 5,1 B2,3 B activos Cabe con margenCabe con margenCabe con margen
Gemma 4 E4BGoogle · pesos oficiales en BF16 8 B4,5 B activos Cabe con margenCabe con margenCabe con margen
Gemma 4 12BGoogle · pesos oficiales en BF16 12 B Cabe con margenCabe con margenCabe con margen
Gemma 4 26B A4BGoogle · pesos oficiales en BF16 25,2 B3,8 B activos Cabe con margenCabe con margenCabe con margen
Gemma 4 31BGoogle · pesos oficiales en BF16 30,7 B Cabe con margenCabe con margenCabe con margen
granite-4.2-3bIBM · pesos oficiales en BF16 3 B Cabe con margenCabe con margenCabe con margen
granite-4.2-8bIBM · pesos oficiales en BF16 8 B Cabe con margenCabe con margenCabe con margen
granite-4.2-30bIBM · pesos oficiales en BF16 30 B Cabe con margenCabe con margenCabe con margen
Llama-3.1-8B-InstructMeta 8 B Cabe con margenCabe con margenCabe con margen
Llama-3.3-70B-InstructMeta 70 B Cabe con margenCabe con margenCabe con margen
Llama-4-Scout-17B-16E-InstructMeta · pesos oficiales en BF16 109 B17 B activos Cabe con margenCabe con margenNo cabe
Llama-4-Maverick-17B-128E-InstructMeta · pesos oficiales en BF16 y FP8 400 B17 B activos No cabeNo cabeNo cabe
Llama-3.1-405B-InstructMeta · pesos oficiales en BF16 405 B No cabeNo cabeNo cabe
Phi-4-mini-instructMicrosoft · pesos oficiales en BF16 3,8 B Cabe con margenCabe con margenCabe con margen
phi-4Microsoft · pesos oficiales en BF16 14 B Cabe con margenCabe con margenCabe con margen
Phi-4-reasoning-vision-15BMicrosoft · pesos oficiales en BF16 15 B Cabe con margenCabe con margenCabe con margen
Ministral-3-14B-Instruct-2512Mistral AI · pesos oficiales en FP8 14 B Cabe con margenCabe con margenCabe con margen
Devstral-Small-2-24B-Instruct-2512Mistral AI · pesos oficiales en FP8 24 B Cabe con margenCabe con margenCabe con margen
Magistral-Small-2509Mistral AI · pesos oficiales en BF16 24 B Cabe con margenCabe con margenCabe con margen
Mistral-Small-4-119B-2603Mistral AI · pesos oficiales en BF16 y FP8 119 B6,5 B activos Cabe con margenCabe con margenNo cabe
Devstral-2-123B-Instruct-2512Mistral AI · pesos oficiales en FP8 123 B Cabe con margenCabe con margenNo cabe
Mistral-Medium-3.5-128BMistral AI · pesos oficiales en BF16 y FP8 128 B Cabe con margenCabe con margenNo cabe
Mistral-Large-3-675B-Instruct-2512Mistral AI · pesos oficiales en FP8 675 B41 B activos No cabeNo cabeNo cabe
Mistral-Large-4-1T-A52BMistral AI · pesos oficiales en FP8 1000 B52 B activos No cabeNo cabeNo cabe
Kimi-K2.6Moonshot AI · pesos oficiales en INT4 nativo 1000 B32 B activos No cabeNo cabeNo cabe
Kimi-K2-Instruct-0905Moonshot AI · pesos oficiales en FP8 (block) 1000 B32 B activos No cabeNo cabeNo cabe
Kimi-K3Moonshot AI · pesos oficiales en MXFP4 (QAT) 2800 B104 B activos No cabeNo cabeNo cabe
Kimi-K3.1-ProMoonshot AI · pesos oficiales en MXFP4 (QAT) 2800 B104 B activos No cabeNo cabeNo cabe
parakeet-tdt-0.6b-v3NVIDIA · pesos oficiales en F32 0,6 B Cabe con margenCabe con margenCabe con margen
canary-1b-v2NVIDIA · pesos oficiales en F32 1 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-3-Nano-4BNVIDIA · pesos oficiales en BF16 4 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-3.5-Bolt-E4BNVIDIA · pesos oficiales en BF16 8 B4 B activos Cabe con margenCabe con margenCabe con margen
Cosmos-Reason2-8BNVIDIA · pesos oficiales en BF16 8,8 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-Nano-9B-v2NVIDIA · pesos oficiales en BF16 9 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-Nano-12B-v2-VLNVIDIA · pesos oficiales en BF16 12,6 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-3-Nano-30B-A3BNVIDIA · pesos oficiales en BF16 30 B3,5 B activos Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-3.5-Lightning-30B-A3BNVIDIA · pesos oficiales en BF16 30 B3 B activos Cabe con margenCabe con margenCabe con margen
Nemotron-3-Nano-Omni-30B-A3B-ReasoningNVIDIA · pesos oficiales en BF16 31 B3 B activos Cabe con margenCabe con margenCabe con margen
OpenReasoning-Nemotron-32BNVIDIA · pesos oficiales en BF16 32 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-3.5-Transcribe-30B-A4BNVIDIA · pesos oficiales en BF16 34 B4,3 B activos Cabe con margenCabe con margenCabe con margen
Llama-3.3-Nemotron-Super-49B-v1.5NVIDIA · pesos oficiales en BF16 50 B Cabe con margenCabe con margenCabe con margen
Cosmos3-SuperNVIDIA · pesos oficiales en BF16 64 B Cabe con margenCabe con margenCabe con margen
NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GBNVIDIA · pesos oficiales en IQ2 (2 bits, QAT) 74 B9 B activos Cabe con margenCabe con margenJusto: caben los pesos, poco contexto
NVIDIA-Nemotron-3-Super-120B-A12BNVIDIA · pesos oficiales en BF16 120 B12 B activos Cabe con margenCabe con margenNo cabe
NVIDIA-Nemotron-3.5-Super-VL-120B-A12BNVIDIA · pesos oficiales en BF16 120 B12 B activos Cabe con margenCabe con margenNo cabe
Llama-3.1-Nemotron-Ultra-253B-v1NVIDIA · pesos oficiales en BF16 253 B Justo: caben los pesos, poco contextoNo cabeNo cabe
NVIDIA-Nemotron-3-Ultra-550B-A55BNVIDIA · pesos oficiales en BF16 550 B55 B activos No cabeNo cabeNo cabe
whisper-large-v3-turboOpenAI · pesos oficiales en F16 0,8 B Cabe con margenCabe con margenCabe con margen
whisper-large-v3OpenAI · pesos oficiales en F16 1,6 B Cabe con margenCabe con margenCabe con margen
gpt-oss-20bOpenAI · pesos oficiales en MXFP4 21 B3,6 B activos Cabe con margenCabe con margenCabe con margen
gpt-oss-120bOpenAI · pesos oficiales en MXFP4 117 B5,1 B activos Cabe con margenCabe con margenNo cabe
Qwen3.5-4BQwen (Alibaba) · pesos oficiales en BF16 4 B Cabe con margenCabe con margenCabe con margen
Qwen-Image-2.1Qwen (Alibaba) · pesos oficiales en BF16 7 B Cabe con margenCabe con margenCabe con margen
Qwen3.5-9BQwen (Alibaba) · pesos oficiales en BF16 9 B Cabe con margenCabe con margenCabe con margen
Qwen3.8-27BQwen (Alibaba) · pesos oficiales en BF16 27 B Cabe con margenCabe con margenCabe con margen
Qwen3.6-35B-A3BQwen (Alibaba) · pesos oficiales en BF16 35 B3 B activos Cabe con margenCabe con margenCabe con margen
Qwen3-Coder-NextQwen (Alibaba) · pesos oficiales en BF16 80 B3 B activos Cabe con margenCabe con margenJusto: caben los pesos, poco contexto
Qwen3.5-122B-A10BQwen (Alibaba) · pesos oficiales en BF16 122 B10 B activos Cabe con margenCabe con margenNo cabe
Qwen3.8-Flash-NextQwen (Alibaba) · pesos oficiales en BF16 125 B6 B activos Cabe con margenCabe con margenNo cabe
Qwen3.5-397B-A17BQwen (Alibaba) · pesos oficiales en BF16 397 B17 B activos No cabeNo cabeNo cabe
Qwen3.8-2.4T-A95BQwen (Alibaba) · pesos oficiales en BF16 2400 B95 B activos No cabeNo cabeNo cabe
Stable Diffusion 3.5 MediumStability AI · pesos oficiales en BF16 2 B Cabe con margenCabe con margenCabe con margen
Stable Diffusion 3.5 LargeStability AI · pesos oficiales en BF16 8 B Cabe con margenCabe con margenCabe con margen
Wan2.2-TI2V-5BWan-AI (Alibaba) 5 B Cabe con margenCabe con margenCabe con margen
Wan2.2-T2V-A14BWan-AI (Alibaba) 27 B14 B activos Cabe con margenCabe con margenCabe con margen
GLM-4.7-FlashZhipu AI (Z.ai) · pesos oficiales en BF16 30 B3 B activos Cabe con margenCabe con margenCabe con margen
GLM-4.5-AirZhipu AI (Z.ai) · pesos oficiales en BF16 106 B12 B activos Cabe con margenCabe con margenNo cabe
GLM-5.3-FlashZhipu AI (Z.ai) · pesos oficiales en FP8 y BF16 320 B18 B activos No cabeNo cabeNo cabe
GLM-5.3Zhipu AI (Z.ai) · pesos oficiales en FP8 y BF16 753 B No cabeNo cabeNo cabe

Equipos con memoria parecida

Otros equipos del catálogo con una memoria utilizable similar (±35 %), de cualquier tipo. Útil para comparar formatos: tarjeta, mini PC, Mac o sistema NVIDIA.

Ficha técnica

Memoria192 GB · VRAM dedicada
TecnologíaHBM3 (8192-bit)
Ancho de banda5300 GB/s
Software citado por el fabricanteROCm
Formatoservidor
Consumo750 W
Estadodesconocido

Qué falta confirmar

  • Ancho de banda publicado como 5.3 TB/s; convertido a 5300 GB/s.
  • Producto de centro de datos: no se vende como tarjeta suelta al usuario final (formato servidor según ficha); disponibilidad no indicada.

Fuentes

  • www.amd.com — Ficha oficial AMD: 192 GB HBM3, 8192-bit, 5,3 TB/s, TBP 750 W pico, lanzamiento 12/06/2023, formato servidor.. Consulta: 16 de noviembre de 2026.
  • rocm.docs.amd.com — Matriz de compatibilidad ROCm 10.1.0 (AMD) lista «AMD Instinct MI300X» como GPU soportada.. Consulta: 16 de noviembre de 2026.

Sin precios todavía: los añadiremos cuando estén verificados, con su fecha y su comercio.