overfeed.news

AikidoSec/altar-1

17d

Idade

126

Curtidas

739

Downloads

Coletado

Quanto custa rodar isto

500.8B params · 32,768 Contexto

PrecisãoPrecisa deMais barato que cabe
16 bits1118GBMI300X × 6$14.34/h
8 bits559GBA800 PCIE × 7$3.27/h
4 bits279GBMI350X$5.49/h

Pesos mais cache de atenção, com 15% de folga para ativações e o alocador. Tudo aqui é aritmética — não medimos velocidade, então não classificamos chip por ela. Ver todos os preços de GPU

New text-generation model. Tags: glm_moe_dsa, glm, glm-5.3, moe, w4a16, awq, int4, compressed-tensors

Leia o artigo completo em huggingface.co

O overfeed.news indexa e aponta. Publicamos um trecho curto — o artigo completo fica em Hugging Face New Models.

Entre para seguir esta fonte
AikidoSec/altar-1 — overfeed.news