Resumen
Llama-3.1-405B-Instruct es un modelo de lenguaje de Meta con 405 mil millones de parámetros y un contexto de 128.000 tokens. Sus pesos ocupan unos ≈ 243 GB GB a 4 bits, 429 GB a 8 bits y 810 GB a 16 bits, sin contar el contexto.
El equipo con menos memoria de nuestro catálogo donde cabe con margen a 4 bits es Mac Studio M5 Ultra (512 GB); a 16 bits, NVIDIA DGX B200 (1440 GB).
Los pesos oficiales se publican en BF16. Si ese formato es de 4 bits o menos, la columna de 4 bits es la referencia realista.
Dónde cabe a 4 bits
5 equipos con memoria utilizable suficiente para ≈ 243 GB de pesos más el margen de contexto, ordenados de menos a más memoria.
Estaciones NVIDIA de gama alta
- NVIDIA DGX Station GB300 748 GB
Mac con memoria unificada
- Mac Studio M5 Ultra 512 GB
Centro de datos (referencia para empresas)
- AMD Instinct MI430X 432 GB
- AMD Instinct MI455X 432 GB
- NVIDIA DGX B200 1440 GB
Dónde cabe a 8 bits
2 equipos con memoria utilizable suficiente para ≈ 429 GB de pesos más el margen de contexto, ordenados de menos a más memoria.
Estaciones NVIDIA de gama alta
- NVIDIA DGX Station GB300 748 GB
Centro de datos (referencia para empresas)
- NVIDIA DGX B200 1440 GB
Dónde cabe a 16 bits
1 equipos con memoria utilizable suficiente para ≈ 810 GB de pesos más el margen de contexto, ordenados de menos a más memoria.
Centro de datos (referencia para empresas)
- NVIDIA DGX B200 1440 GB
Fuente
Parámetros según la ficha oficial del modelo, consultada el 16 de noviembre de 2026. Licencia indicada en la ficha: Llama 3.1 Community License. Revisa sus condiciones antes de un uso comercial.