Anuncio

Privum

Construimos, protegemos y operamos tu infraestructura digital.

Software, sistemas de IA, pruebas de penetración y nube segura para empresas.

Hablar con Privum

LiquidAI/LFM2.5-24B-A2B

1mes

Antigüedad

103

Me gusta

2.6K

Descargas

Recolectado

New text-generation model. Tags: lfm2_moe, text-generation, liquid, lfm2.5, edge, moe, conversational, en

Lo que cuesta correr esto

24.0B params · 32,768 Contexto

PrecisiónNecesitaEl más barato que lo soporta
16 bits54GBGB10$0.24/h
8 bits27GBGB10$0.24/h
4 bits14GBTesla P100$0.04/h

Pesos más caché de atención, con un 15% extra para activaciones y la sobrecarga del asignador de memoria. Todo aquí es aritmética: no medimos velocidad, así que no ordenamos los chips por ella. Ver todos los precios de GPU

Lee el artículo completo en huggingface.co

overfeed.news indexa y enlaza. Publicamos un extracto breve; el artículo completo sigue en Hugging Face New Models.

Inicia sesión para seguir esta fuente
LiquidAI/LFM2.5-24B-A2B — overfeed.news