taobao-mnn/MNN-Pocket-0.3B
2d
93
2.4K
- Recolectado
New text-generation model. Tags: qwen3, text-generation, mnn, mnn-pocket, on-device, edge, int4, conversational
Lo que cuesta correr esto
0.36
| Precisión | Necesita | El más barato que lo soporta |
|---|---|---|
| 16 bits | 1.3 | RTX 3060 laptop |
| 8 bits | 0.6 | RTX 3060 laptop |
| 4 bits | 0.3 | RTX 3060 laptop |
Pesos más caché de atención, con un 15% extra para activaciones y la sobrecarga del asignador de memoria. Todo aquí es aritmética: no medimos velocidad, así que no ordenamos los chips por ella. Ver todos los precios de GPU
overfeed.news indexa y enlaza. Publicamos un extracto breve; el artículo completo sigue en Hugging Face New Models.
Más de Hugging Face New Models
Inicia sesión para seguir esta fuente
meituan-longcat/LongCat-2.5
New image-text-to-text model. Tags: pro_v, multimodal, image-text-to-text, text-generation, mixture-of-experts, agentic, conversational, custom_code
adventists-ai/Sophon-Realtime-v1
New any-to-any model. Tags: sophon-realtime, full-duplex, speech-to-speech, voice-agent, paralinguistics, expressive-speech, duplexjev, any-to-any
Zyphra/ZONOS3-Mini
New text-to-speech model. Tags: zonos3, gguf, text-to-speech, tts, speech-synthesis, voice-cloning, multilingual, zonos
autotrust/AutoTrust-Decider-Pro-Vision-27B-v1.1
New text-classification model. Tags: vllm, qwen3_5, text-classification, decision-model, classification, structured-decisions, license:apache-2.0