overfeed.news

orcarouter/OrcaSAQ-2-27B

14d

Idade

112

Curtidas

359

Downloads

Coletado

Quanto custa rodar isto

6.8B params · 32,768 Contexto

PrecisãoPrecisa deMais barato que cabe
16 bits24GBRTX 3090$0.12/h
8 bits12GBTesla P100$0.03/h
4 bits5.9GBGTX 1660 S$0.02/h

Pesos mais cache de atenção, com 15% de folga para ativações e o alocador. Tudo aqui é aritmética — não medimos velocidade, então não classificamos chip por ela. Ver todos os preços de GPU

New text-generation model. Tags: vllm, qwen3_5, qwen, qwen3.8, orcasaq2, quantization, mixed-precision, 3-bit

Leia o artigo completo em huggingface.co

O overfeed.news indexa e aponta. Publicamos um trecho curto — o artigo completo fica em Hugging Face New Models.

Entre para seguir esta fonte
orcarouter/OrcaSAQ-2-27B — overfeed.news