Anuncio

Agendator

Reservas online gratis para tu barbería o salón.

Página de reservas, agenda y recordatorios por email. Sin cookies ni anuncios para tus clientes.

Crear mi página gratis

Infatoshi/GLM-5.3-UNCENSORED-EXL3-3.0bpw

1mes

Antigüedad

93

Me gusta

127

Descargas

Recolectado

New text-generation model. Tags: exllamav3, glm_moe_dsa, exl3, glm, moe, uncensored, text-generation, conversational

Lo que cuesta correr esto

146.3B params · 32,768 Contexto

PrecisiónNecesitaEl más barato que lo soporta
16 bits448GBGB10 × 4$0.96/h
8 bits224GBMI350X$5.49/h
4 bits112GBGB10$0.24/h

Pesos más caché de atención, con un 15% extra para activaciones y la sobrecarga del asignador de memoria. Todo aquí es aritmética: no medimos velocidad, así que no ordenamos los chips por ella. Ver todos los precios de GPU

Lee el artículo completo en huggingface.co

overfeed.news indexa y enlaza. Publicamos un extracto breve; el artículo completo sigue en Hugging Face New Models.

Inicia sesión para seguir esta fuente
Infatoshi/GLM-5.3-UNCENSORED-EXL3-3.0bpw — overfeed.news