Anuncio

Privum

Construimos, protegemos y operamos tu infraestructura digital.

Software, sistemas de IA, pruebas de penetración y nube segura para empresas.

Hablar con Privum

Qwen/Qwen3.8-2.4T-A95B-FP8

3mes

Antigüedad

229

Me gusta

15K

Descargas

Publicado
Recolectado

New text-generation model. Tags: qwen3_5_moe_text, text-generation, conversational, base_model:Qwen/Qwen3.8-2.4T-A95B, base_model:quantized:Qwen/Qwen3.8-2.4T-A95B, license:other, fp8

Lo que cuesta correr esto

2446.2B params · 32,768 Contexto

PrecisiónNecesitaEl más barato que lo soporta
16 bits5253GBNada de lo que seguimos lo soporta
8 bits2627GBNada de lo que seguimos lo soporta
4 bits1313GBMI300X × 7$16.73/h

Pesos más caché de atención, con un 15% extra para activaciones y la sobrecarga del asignador de memoria. Todo aquí es aritmética: no medimos velocidad, así que no ordenamos los chips por ella. Ver todos los precios de GPU

Lee el artículo completo en huggingface.co

overfeed.news indexa y enlaza. Publicamos un extracto breve; el artículo completo sigue en Hugging Face New Models.

Inicia sesión para seguir esta fuente
Qwen/Qwen3.8-2.4T-A95B-FP8 — overfeed.news