Anuncio

NexTalk

Automatiza la primera respuesta. Mantén el toque humano.

Chat en vivo con agentes de IA en tu modelo y tu clave de API, con traspaso a tu equipo.

Empezar gratis

JetBrains/Mellum2.1-12B-A2.5B-Thinking

1mes

Antigüedad

86

Me gusta

583

Descargas

Recolectado

New text-generation model. Tags: mellum, text-generation, conversational, en, arxiv:2605.31268, base_model:JetBrains/Mellum2-12B-A2.5B-Base, base_model:finetune:JetBrains/Mellum2-12B-A2.5B-Base, license:apache-2.0

Lo que cuesta correr esto

12.1B params · 32,768 Contexto

PrecisiónNecesitaEl más barato que lo soporta
16 bits28GBGB10$0.24/h
8 bits14GBTesla P100$0.04/h
4 bits7.0GBRTX 3060 laptop$0.03/h

Pesos más caché de atención, con un 15% extra para activaciones y la sobrecarga del asignador de memoria. Todo aquí es aritmética: no medimos velocidad, así que no ordenamos los chips por ella. Ver todos los precios de GPU

Lee el artículo completo en huggingface.co

overfeed.news indexa y enlaza. Publicamos un extracto breve; el artículo completo sigue en Hugging Face New Models.

Inicia sesión para seguir esta fuente
JetBrains/Mellum2.1-12B-A2.5B-Thinking — overfeed.news