overfeed.news

yandex/AliceAI-Foundation-80B-A3B-Base

18d

Idade

116

Curtidas

676

Downloads

Coletado

Quanto custa rodar isto

81.3B params · 32,768 Contexto

PrecisãoPrecisa deMais barato que cabe
16 bits178GBMI300X$2.39/h
8 bits89GBRTX PRO 6000 Max-Q$0.79/h
4 bits44GBQ RTX 8000$0.25/h

Pesos mais cache de atenção, com 15% de folga para ativações e o alocador. Tudo aqui é aritmética — não medimos velocidade, então não classificamos chip por ela. Ver todos os preços de GPU

New text-generation model. Tags: alice_ai, text-generation, custom_code, mixture-of-experts, vllm, ru, en, license:apache-2.0

Leia o artigo completo em huggingface.co

O overfeed.news indexa e aponta. Publicamos um trecho curto — o artigo completo fica em Hugging Face New Models.

Entre para seguir esta fonte
yandex/AliceAI-Foundation-80B-A3B-Base — overfeed.news