Anuncio

SRExpert

Deja de saltar entre 6 herramientas de Kubernetes.

Monitoreo, alertas, seguridad, despliegues Helm y operaciones con IA en una sola plataforma.

Probar 30 días gratis

tencent/Hy-SimulMT-30B-A3B-FP8

15d

Antigüedad

109

Me gusta

93

Descargas

Recolectado

New translation model. Tags: hy_v3, text-generation, translation, zh, en, fr, pt, es

Lo que cuesta correr esto

30.4B params · 32,768 Contexto

PrecisiónNecesitaEl más barato que lo soporta
16 bits69GBGB10$0.24/h
8 bits34GBGB10$0.24/h
4 bits17GBRTX 2080 Ti$0.07/h

Pesos más caché de atención, con un 15% extra para activaciones y la sobrecarga del asignador de memoria. Todo aquí es aritmética: no medimos velocidad, así que no ordenamos los chips por ella. Ver todos los precios de GPU

Lee el artículo completo en huggingface.co

overfeed.news indexa y enlaza. Publicamos un extracto breve; el artículo completo sigue en Hugging Face New Models.

Inicia sesión para seguir esta fuente
tencent/Hy-SimulMT-30B-A3B-FP8 — overfeed.news