Anuncio

SRExpert

Deja de saltar entre 6 herramientas de Kubernetes.

Monitoreo, alertas, seguridad, despliegues Helm y operaciones con IA en una sola plataforma.

Probar 30 días gratis

Sección

Noticias

Titulares de las redacciones y blogs que seguimos.

4914documentos

vllm v0.31.0

v0.31.0 Highlights This release features 717 commits from 307 contributors (96 new)! DeepSeek-V4.1-Flash performance: FlashMLA mega attention with the V4.1 NVFP4 compressed KV cache is now the SM100 default (56935); DeepGEMM sparse MQA logits for the indexer (56254) and Mega-Gate fusing the gate GEMM with expert selection (56266); decoder boundaries fuse the TP all-reduce, mHC input preparation (57643) and the…

en