A Nvidia lançou em 15 de outubro o Nemotron 3.5 Super VL, um modelo de inteligência artificial aberto. Ele tem 120 bilhões de parâmetros, os valores internos que o modelo ajusta ao aprender. Ele entende texto, imagens, documentos e vídeo num só sistema. Segundo a empresa, o modelo executa tarefas de agentes (programas que cumprem trabalhos de várias etapas sozinhos) com precisão comparável à do seu maior modelo de raciocínio. E faz isso com cerca de um quinto dos parâmetros.

Segundo a Nvidia, dezenas de organizações já ajustam o Super VL com seus próprios dados, ferramentas, regras e fluxos de trabalho. A Ramp usa o modelo para transformar fotos de recibos em dados organizados, com loja, data e pagamento. De acordo com o blog técnico da Nvidia, a Ramp espera até 50% mais capacidade de processamento e respostas até dez vezes mais rápidas.

A Scale AI ajustou o modelo para dois agentes: um de crédito a fornecedores da Skydance e outro de análise de fusões e aquisições da EY. No caso da Skydance, o blog técnico afirma que o custo de rodar o modelo vai cair 40 vezes, e a demora, 5 vezes. Em segurança digital, a Nvidia relata precisão 40% maior na análise de ameaças e falhas da Alice, que ajustou o modelo com a AI21.

Empresas de software também estão integrando o modelo. A Atlassian o usa para buscar informações em aplicativos como Jira e Confluence. A CrowdStrike aplica o modelo na defesa de redes de empresas, a Dassault Systèmes em projeto e simulação de engenharia, e a Perplexity em buscas. A Salesforce adapta o Nemotron para automatizar processos de governo.

Por dentro, o Super VL usa uma arquitetura chamada mistura de especialistas: dos 120 bilhões de parâmetros, só 12 bilhões trabalham em cada token (o pedaço de texto que o modelo processa). Segundo o blog técnico da Nvidia, juntar texto e visão num modelo só dispensa manter dois sistemas separados. Também evita passar o contexto da tarefa de um para o outro.

O treino visual mira o que os agentes encontram na prática, segundo a Nvidia: texto dentro de imagens, tabelas, gráficos e documentos como páginas da web e PDFs. O modelo aprendeu com cerca de 26 trilhões de tokens. Ele foi destilado (treinado para imitar outro modelo) do Nemotron 3 Ultra.

Nos números divulgados pela própria Nvidia, o Super VL fez 63,44% no Hermes Bench e 87,05% nas avaliações de comportamento da LangChain. O Nemotron 3 Ultra marcou 56,33% e 84,3%.

No CharXiv, um teste de raciocínio sobre gráficos, a Nvidia relata 80,8% para o novo modelo, e 84% quando ele usa código em Python. A empresa diz ainda que ele dá conta, no mesmo tempo, de até 5 vezes mais trabalho que outros modelos abertos do mesmo porte, numa única placa de vídeo.

A Nvidia libera os pesos do modelo, os dados e as receitas de treino. Entre os dados, há um conjunto de cerca de 2,8 trilhões de tokens em 22 línguas da Índia. Ele foi feito com o instituto IIT Madras e seu laboratório AI4Bharat. Há também uma versão compactada, que guarda os números do modelo em 4 bits para rodar em chips Blackwell, da Nvidia.

Dos dois modelos Bolt, o 74B-A9B 24GB já está disponível. Ele usa compressão nativa de 2 bits para caber em 24 GB de memória e rodar no próprio computador, ao lado de outros aplicativos. Foi feito para os notebooks RTX Spark, que chegam em 16 de outubro.

O outro, o Bolt E4B 4GB, só sai em 23 de outubro. Segundo a Nvidia, ele é voltado a assistentes de voz que rodam no próprio aparelho, personagens interativos e interfaces embutidas em máquinas.