Qwen/Qwen2.5-7B-Instruct
1mes
2.1K
10M
- Recolectado
New text-generation model. Tags: qwen2, text-generation, chat, conversational, en, arxiv:2309.00071, arxiv:2407.10671, base_model:Qwen/Qwen2.5-7B
Lo que cuesta correr esto
7.6
| Precisión | Necesita | El más barato que lo soporta |
|---|---|---|
| 16 bits | 18 | RTX 2080 Ti |
| 8 bits | 9.2 | RTX 3060 laptop |
| 4 bits | 4.6 | RTX 3060 laptop |
Pesos más caché de atención, con un 15% extra para activaciones y la sobrecarga del asignador de memoria. Todo aquí es aritmética: no medimos velocidad, así que no ordenamos los chips por ella. Ver todos los precios de GPU
overfeed.news indexa y enlaza. Publicamos un extracto breve; el artículo completo sigue en Hugging Face New Models.
Más de Hugging Face New Models
Inicia sesión para seguir esta fuente
meituan-longcat/LongCat-2.5
New image-text-to-text model. Tags: pro_v, multimodal, image-text-to-text, text-generation, mixture-of-experts, agentic, conversational, custom_code
adventists-ai/Sophon-Realtime-v1
New any-to-any model. Tags: sophon-realtime, full-duplex, speech-to-speech, voice-agent, paralinguistics, expressive-speech, duplexjev, any-to-any
Zyphra/ZONOS3-Mini
New text-to-speech model. Tags: zonos3, gguf, text-to-speech, tts, speech-synthesis, voice-cloning, multilingual, zonos
autotrust/AutoTrust-Decider-Pro-Vision-27B-v1.1
New text-classification model. Tags: vllm, qwen3_5, text-classification, decision-model, classification, structured-decisions, license:apache-2.0