Anuncio

SRExpert

Deja de saltar entre 6 herramientas de Kubernetes.

Monitoreo, alertas, seguridad, despliegues Helm y operaciones con IA en una sola plataforma.

Probar 30 días gratis

incoai/Qwen3.8-27B-DFlash2

2mes

Antigüedad

86

Me gusta

1.5K

Descargas

Publicado
Recolectado

New text-generation model. Tags: qwen3, dflash2, speculative-decoding, block-diffusion, draft-model, sglang, vllm, text-generation

Lo que cuesta correr esto

1.9B params · 32,768 Contexto

PrecisiónNecesitaEl más barato que lo soporta
16 bits4.8GBRTX 3060 laptop$0.03/h
8 bits2.4GBRTX 3060 laptop$0.03/h
4 bits1.2GBRTX 3060 laptop$0.03/h

Pesos más caché de atención, con un 15% extra para activaciones y la sobrecarga del asignador de memoria. Todo aquí es aritmética: no medimos velocidad, así que no ordenamos los chips por ella. Ver todos los precios de GPU

Lee el artículo completo en huggingface.co

overfeed.news indexa y enlaza. Publicamos un extracto breve; el artículo completo sigue en Hugging Face New Models.

Inicia sesión para seguir esta fuente
incoai/Qwen3.8-27B-DFlash2 — overfeed.news