Nemotron 3.5 Super VL recebe corte de preço no OpenRouter e agora está disponível no SageMaker JumpStart

O NVIDIA Nemotron 3.5 Super VL agora custa $0.15 por milhão de tokens de entrada e $0.47 por milhão de tokens de saída no OpenRouter, caindo de $0.50 por milhão de tokens de saída no dia anterior. O preço de entrada permanece inalterado. O modelo possui uma janela de contexto de 1 milhão de tokens.

A AWS Machine Learning anunciou que o NVIDIA Nemotron 3.5 Super VL está disponível no Amazon SageMaker JumpStart. O modelo aceita imagens, vídeo e texto como entrada e gera texto. Ele combina uma espinha dorsal de linguagem híbrida Mixture-of-Experts de 120 bilhões de parâmetros com 12 bilhões de parâmetros ativos e um codificador de visão C-RADIO. Ele suporta comprimentos de contexto de até 1 milhão de tokens e inclui uma cabeça de Previsão de Múltiplos Tokens integrada que suporta decodificação especulativa. O JumpStart oferece duas variantes: pesos de referência NVFP4 e BF16 de precisão total. O tamanho do checkpoint NVFP4 é de cerca de 75 GB e o tamanho do checkpoint BF16 é de cerca de 249 GB. O NVFP4 roda com pesos e ativações de 4 bits em GPUs Blackwell, nas instâncias ml.g7.24xlarge e ml.g7.48xlarge. O BF16 roda na instância ml.p5en.48xlarge. A implantação leva cerca de 10 minutos na ml.g7.24xlarge.