Anúncio

Privum

Construímos, protegemos e operamos sua infraestrutura digital.

Software, sistemas de IA, testes de intrusão e cloud segura para empresas.

Falar com a Privum

taobao-mnn/MNN-Pocket-0.3B

2d

Idade

93

Curtidas

2.4K

Downloads

Coletado

New text-generation model. Tags: qwen3, text-generation, mnn, mnn-pocket, on-device, edge, int4, conversational

Quanto custa rodar isto

0.36B params · 32,768 Contexto

PrecisãoPrecisa deMais barato que cabe
16 bits1.3GBRTX 3060 laptop$0.03/h
8 bits0.6GBRTX 3060 laptop$0.03/h
4 bits0.3GBRTX 3060 laptop$0.03/h

Pesos mais cache de atenção, com 15% de folga para ativações e o alocador. Tudo aqui é aritmética — não medimos velocidade, então não classificamos chip por ela. Ver todos os preços de GPU

Leia o artigo completo em huggingface.co

O overfeed.news indexa e aponta. Publicamos um trecho curto — o artigo completo fica em Hugging Face New Models.

Entre para seguir esta fonte
taobao-mnn/MNN-Pocket-0.3B — overfeed.news