NVIDIA Nemotron 3.5 Bolt roda local a 65 tokens por segundo, mas erra fatos que Super VL acerta

A NVIDIA anunciou em 15 de outubro de 2026 a família Nemotron 3.5, com dois modelos abertos que miram públicos bem diferentes: o Bolt, pensado para rodar em hardware local, e o Super VL, voltado a tarefas de visão e documentos em servidores. Corey Noles, editor do site The Neuron, publicou no dia seguinte um review colocando os dois lado a lado nas mesmas tarefas, e os resultados interessam a quem decide onde cada modelo entra num pipeline real.

Rodar um modelo com 74 bilhões de parâmetros totais num notebook e ver ele gerar texto a 65,5 tokens por segundo é uma dessas experiências que fazem a conversa sobre IA local de repente parecer muito real.

Running a model with 74 billion total parameters on a laptop and watching it generate at 65.5 tokens per second is one of those experiences that makes the local-AI conversation suddenly feel very real.Corey Noles, editor do The Neuron

O que a NVIDIA colocou na rua em outubro

A família tem cinco posições. O Bolt 74B-A9B é o carro-chefe para agentes locais. Um Bolt E4B, menor, com footprint de memória de 4GB, estava previsto para 23 de outubro. O Super VL mira documentos e multimodalidade. Lightning cobre throughput alto em escala, e Ultra fica com o nível mais pesado de raciocínio.

Um detalhe que passa batido: o próprio Bolt também é um modelo de visão e linguagem. O cartão de modelo lista entradas de texto, imagem e vídeo para o checkpoint de 24GB, e a NVIDIA descreve o Bolt como comprimido a partir do Super VL. No teste do The Neuron, porém, o Bolt só foi avaliado em texto.

Como o Bolt roda dentro de um notebook comum

O Bolt usa arquitetura MoE (mixture-of-experts, ou mistura de especialistas): dos 74 bilhões de parâmetros totais, só cerca de 9 bilhões são ativados a cada token gerado, o que reduz o custo computacional por resposta. O pacote oficial de 24GB usa quantização nativa em 2 bits, uma técnica que comprime os pesos do modelo para caber em menos memória sem jogar fora toda a capacidade.

No teste, a configuração foi ainda mais agressiva: o formato IQ2_XXS GGUF, rodando via Unsloth Studio num Surface Laptop Ultra com GPU NVIDIA RTX Spark e 128GB de memória unificada. É bem mais hardware do que os 24GB oficiais do Bolt pedem, e o próprio autor avisa que esse comportamento não representa toda combinação de precisão, checkpoint e motor de inferência possível.

O Super VL foi testado de outra forma: hospedado, via OpenRouter Chat, sem controle sobre GPU, rota do provedor ou precisão dos pesos servidos. São dois mundos de deploy diferentes, e isso já é um primeiro sinal de para quem cada modelo foi desenhado.

Os números de velocidade que apareceram no teste

No quebra-cabeça de lógica mais simples, o Bolt decodificou a 65,5 tokens por segundo e respondeu corretamente dentro do limite de 120 palavras pedido. Em outras rodadas, a velocidade ficou geralmente entre 40 e 65 tokens por segundo, uma faixa que torna o modelo interativo, não algo que trava a tela esperando.

Vale lembrar que esses são testes editoriais pontuais, geralmente uma única rodada por tarefa, não um benchmark estatisticamente robusto. A própria NVIDIA afirma, em blog técnico, que o Super VL atinge até 5 vezes mais throughput que alguns pares abertos em configurações agênticas medidas pela empresa, mas esse número é da NVIDIA, não algo que o review tenha verificado de forma independente.

Onde o Bolt acerta e onde começa a inventar

Em matemática de negócio, o Bolt foi bem. Diante de dados de uma cafeteria fictícia (volume de vendas, custo de insumos, taxa de associação a um fornecedor), ele calculou corretamente US$ 900 de lucro bruto diário, US$ 756 de economia mensal em insumos e US$ 576 de benefício líquido mensal após a taxa. Mais importante: ele sinalizou as premissas que importam na prática, como mudança de volume e a diferença entre lucro bruto e o que a empresa de fato embolsa.

O problema apareceu num teste de fact-checking. O autor apresentou uma história fictícia sobre uma missão de ônibus espacial da NASA em 1987, com um astronauta chamado Daniel Mercer recuperando uma sonda Helios-7. Nada disso existiu: depois do desastre da Challenger, a NASA não voou nenhum ônibus espacial em 1987, e a missão que retomou os voos foi a STS-26, com a Discovery, em 29 de setembro de 1988. Os dois modelos identificaram que a premissa era falsa. Mas o Bolt, ao tentar corrigir, inventou detalhes históricos errados sobre a STS-26, incluindo o ônibus espacial e a data erradas.

Super VL se saiu melhor em verificar fatos e ler documentos

O Super VL, no mesmo teste, explicou corretamente por que a premissa falhava e citou materiais relacionados à NASA sem preencher a lacuna com uma recuperação fictícia. Foi a vitória mais clara do Super VL no comparativo, embora com ressalva: as duas sessões usaram busca na web como ferramenta, e não há garantia de que os dois modelos encontraram os mesmos resultados de busca.

Isso conversa com o posicionamento técnico do Super VL. Ele integra um encoder de visão chamado C-RADIO, o que permite processar texto junto com imagens, páginas de documento, gráficos, capturas de tela de interface e frames de vídeo. A NVIDIA descreve uma janela de contexto de até 1 milhão de tokens para deployments suportados, mirando inteligência documental, pesquisa e agentes de longa duração. O review não chegou a testar essa parte visual, então essas capacidades seguem como recursos anunciados, não resultados validados pelo autor.

Código ainda não prova que algum dos dois é um agente completo

O teste de código pediu, numa única tentativa, um jogo de exploração de masmorra em HTML, gerado proceduralmente, com mapas, pathfinding, combate e itens. O Bolt levou cerca de 11 minutos gerando aproximadamente 34.916 tokens, mas o programa falhou na inicialização: coordenadas não inteiras do centro das salas foram usadas como índices de array, e uma segunda falha na lógica de posicionamento de inimigos podia encher quase todo o chão de inimigos. Um único prompt de correção resolveu os dois problemas.

O Super VL começou funcionando. Num teste com 100 masmorras geradas, todas tinham pelo menos cinco salas conectadas, e as contagens iniciais de inimigos e itens pareciam razoáveis. Ainda assim, apareceram bugs reproduzíveis: o jogador podia ocupar o mesmo quadrado de um inimigo, e o cálculo de linha de visão do inimigo à distância era inconsistente dependendo da direção. Também corrigido com um prompt seguinte.

O autor é claro sobre o limite desse teste: nenhuma das duas rodadas passou pelo ciclo completo que a NVIDIA vende como caso de uso de codificação agêntica, que envolve inspecionar arquivos, executar o programa, ler erros, corrigir e rodar testes de novo. Geração de código em uma única tentativa mede outra coisa.

Quando escolher qual modelo

Em resumo: a escolha depende menos de qual modelo é "melhor" no abstrato e mais do tipo de carga e da exigência de latência e privacidade.

• Dados sensíveis que não podem sair da máquina, ou necessidade de resposta interativa sem round-trip de rede: Bolt, rodando local, com footprint oficial de 24GB (bem menor que os 128GB usados no teste).
• Agentes que precisam ler telas, gráficos, formulários financeiros, PDFs ou frames de vídeo, combinando isso com raciocínio textual: Super VL, hospedado via OpenRouter ou NVIDIA NIM (serviço de inferência da própria NVIDIA), ou autohospedado por quem tem hardware para isso.
• Tarefas onde exatidão factual importa mais que velocidade, como verificação de afirmações com apoio de busca: o teste favoreceu o Super VL, embora com apenas um caso.
• Workflows mistos: nada impede usar o Bolt como trabalhador local sempre ativo e chamar o Super VL como especialista para tarefas pesadas de documento ou imagem.

Os pesos de ambos os modelos são abertos e estão disponíveis para download gratuito no Hugging Face, em variantes BF16, GGUF e, no caso do Super VL, também NVFP4. O custo real aparece no deploy: rodar local exige GPU com memória suficiente, e rodar hospedado via OpenRouter ou NIM cobra por uso, sem valores de token divulgados no review.

O que ainda falta testar antes de confiar de verdade

O autor lista três prioridades para a próxima rodada: testes de codificação agêntica de verdade, com o mesmo código quebrado e as mesmas ferramentas de execução para os dois modelos; avaliação multimodal local, incluindo capturas de tela e gráficos, especialmente no pacote de 24GB do Bolt; e variantes do Super VL com quantização ainda mais agressiva, em 2 ou até 1 bit, que caibam em máquinas menores.

Para quem decide onde plugar esses modelos num sistema de produção, o recado prático é que nenhum dos dois ainda tem prova de funcionamento num loop completo de agente com ferramentas. Os números de velocidade do Bolt e o acerto factual do Super VL são reais, mas vieram de rodadas únicas, não de uma bateria de benchmark reprodutível. Antes de trocar um provedor de API por um desses modelos, vale repetir o teste com a carga de trabalho específica do seu caso.

Fonte: The Neuron