Anuncio

NexTalk

Automatiza la primera respuesta. Mantén el toque humano.

Chat en vivo con agentes de IA en tu modelo y tu clave de API, con traspaso a tu equipo.

Empezar gratis

Aleph-Alpha/Kolibri-1

1mes

Antigüedad

86

Me gusta

Recolectado

New text-generation model. Tags: vllm, kolibri1, reasoning, moe, text-generation, conversational, de, en

Lo que cuesta correr esto

78.1B params · 32,768 Contexto

PrecisiónNecesitaEl más barato que lo soporta
16 bits171GBMI300X$2.39/h
8 bits85GBGB10$0.24/h
4 bits43GBGB10$0.24/h

Pesos más caché de atención, con un 15% extra para activaciones y la sobrecarga del asignador de memoria. Todo aquí es aritmética: no medimos velocidad, así que no ordenamos los chips por ella. Ver todos los precios de GPU

Lee el artículo completo en huggingface.co

overfeed.news indexa y enlaza. Publicamos un extracto breve; el artículo completo sigue en Hugging Face New Models.

Inicia sesión para seguir esta fuente
Aleph-Alpha/Kolibri-1 — overfeed.news