Saltar al contenido
hardwai

Meta

¿Qué hardware necesitas para Llama-3.1-405B-Instruct?

4 bits≈ 243 GBpesos · cabe en 5 equipos
8 bits≈ 429 GBpesos · cabe en 2 equipos
16 bits≈ 810 GBpesos · cabe en 1 equipos

Estimación teórica con los supuestos de nuestro método. Sin prueba propia.

Resumen

Llama-3.1-405B-Instruct es un modelo de lenguaje de Meta con 405 mil millones de parámetros y un contexto de 128.000 tokens. Sus pesos ocupan unos ≈ 243 GB GB a 4 bits, 429 GB a 8 bits y 810 GB a 16 bits, sin contar el contexto.

El equipo con menos memoria de nuestro catálogo donde cabe con margen a 4 bits es Mac Studio M5 Ultra (512 GB); a 16 bits, NVIDIA DGX B200 (1440 GB).

Los pesos oficiales se publican en BF16. Si ese formato es de 4 bits o menos, la columna de 4 bits es la referencia realista.

Dónde cabe a 4 bits

5 equipos con memoria utilizable suficiente para ≈ 243 GB de pesos más el margen de contexto, ordenados de menos a más memoria.

Estaciones NVIDIA de gama alta

Mac con memoria unificada

Centro de datos (referencia para empresas)

Dónde cabe a 8 bits

2 equipos con memoria utilizable suficiente para ≈ 429 GB de pesos más el margen de contexto, ordenados de menos a más memoria.

Estaciones NVIDIA de gama alta

Centro de datos (referencia para empresas)

Dónde cabe a 16 bits

1 equipos con memoria utilizable suficiente para ≈ 810 GB de pesos más el margen de contexto, ordenados de menos a más memoria.

Centro de datos (referencia para empresas)

Fuente

Parámetros según la ficha oficial del modelo, consultada el 16 de noviembre de 2026. Licencia indicada en la ficha: Llama 3.1 Community License. Revisa sus condiciones antes de un uso comercial.

Otros modelos de Meta