Anuncio

SRExpert

Deja de saltar entre 6 herramientas de Kubernetes.

Monitoreo, alertas, seguridad, despliegues Helm y operaciones con IA en una sola plataforma.

Probar 30 días gratis

moonshotai/Kimi-K2-Instruct

1mes

Antigüedad

2.8K

Me gusta

184K

Descargas

Recolectado

New text-generation model. Tags: kimi_k2, text-generation, conversational, custom_code, doi:10.57967/hf/5976, license:other, eval-results, fp8

Lo que cuesta correr esto

1026.4B params · 32,768 Contexto

PrecisiónNecesitaEl más barato que lo soporta
16 bits2260GBMI350X × 8$43.92/h
8 bits1130GBMI300X × 6$14.34/h
4 bits565GBGB10 × 5$1.20/h

Pesos más caché de atención, con un 15% extra para activaciones y la sobrecarga del asignador de memoria. Todo aquí es aritmética: no medimos velocidad, así que no ordenamos los chips por ella. Ver todos los precios de GPU

Lee el artículo completo en huggingface.co

overfeed.news indexa y enlaza. Publicamos un extracto breve; el artículo completo sigue en Hugging Face New Models.

Inicia sesión para seguir esta fuente
moonshotai/Kimi-K2-Instruct — overfeed.news