overfeed.news

pipecat-ai/phonellm-alpha-1

1mês

Idade

72

Curtidas

64

Downloads

Coletado

Quanto custa rodar isto

31.6B params · 32,768 Contexto

PrecisãoPrecisa deMais barato que cabe
16 bits70GBA800 PCIE$0.47/h
8 bits35GBQ RTX 8000$0.25/h
4 bits17GBTesla P40$0.08/h

Pesos mais cache de atenção, com 15% de folga para ativações e o alocador. Tudo aqui é aritmética — não medimos velocidade, então não classificamos chip por ela. Ver todos os preços de GPU

New text-generation model. Tags: nemotron_h, text-generation, nemotron, mixture-of-experts, voice-agent, phone, tool-use, function-calling

Leia o artigo completo em huggingface.co

O overfeed.news indexa e aponta. Publicamos um trecho curto — o artigo completo fica em Hugging Face New Models.

Entre para seguir esta fonte
pipecat-ai/phonellm-alpha-1 — overfeed.news