DeepSeek abre o código do motor de inferência que baixa o custo por token

O que a DeepSeek abriu agora

A DeepSeek publicou o código do DeepInfer sob licença Apache 2.0, segundo reportou o site The Decoder. O DeepInfer não é um modelo de IA: é o software que recebe o pedido de um usuário, roda o modelo já treinado e devolve a resposta, etapa chamada de inferência. É esse motor que sustenta o V4.1-Flash.

A licença Apache 2.0 é permissiva: autoriza uso comercial, modificação e redistribuição do código, inclusive dentro de produtos fechados, desde que se mantenha o aviso de autoria original. Na prática, qualquer empresa ou desenvolvedor pode pegar o DeepInfer, adaptar para a própria infraestrutura e vender um serviço em cima dele sem pedir permissão. A DeepSeek também avisou que o código de futuros modelos seus sairá no mesmo formato aberto, segundo a mesma reportagem.

Como o motor funciona por baixo do capô

O DeepInfer não nasceu do zero. Ele é construído sobre o vLLM, projeto de código aberto que se tornou um dos motores mais usados para servir LLMs (os grandes modelos de linguagem) em produção.

Em cima dessa base, a DeepSeek disse ter adicionado três coisas, de acordo com o The Decoder:

• Kernels de computação otimizados: trechos de código de baixo nível escritos para rodar direto na GPU, acelerando as operações matemáticas repetitivas que um modelo de linguagem faz a cada token gerado
• Processamento distribuído entre múltiplos chips: a capacidade de dividir o trabalho de gerar uma resposta entre várias GPUs ao mesmo tempo, útil para modelos grandes demais para caber numa única placa
• Técnicas de geração de texto mais rápidas, sem que a fonte detalhe quais exatamente

O ganho prático dessas três peças juntas é o que, segundo a empresa, torna o V4.1-Flash mais barato de rodar em escala do que rodaria num vLLM genérico, sem os ajustes feitos internamente pela DeepSeek.

O deepseek-recipe tenta fechar a lacuna entre self-host e API

Junto com o DeepInfer, a DeepSeek lançou o deepseek-recipe, pacote que replica o processamento de tokens da API oficial da empresa. O objetivo é que quem hospeda o modelo na própria infraestrutura (prática chamada de self-hosting) tenha o mesmo comportamento de tokenização e formatação de resposta que um cliente da API oficial teria. Sem isso, é comum que uma implementação própria produza respostas sutilmente diferentes das que a API geraria para o mesmo pedido, o que complica testes e comparações.

Para um time de TI que já usa a API da DeepSeek em produção e pensa em migrar parte da carga para servidores próprios (por custo, por latência ou por exigência de manter dados em território nacional, relevante sob a LGPD), o deepseek-recipe reduz o risco de regressão nessa migração: o comportamento esperado já vem documentado em código, não em tentativa e erro.

O que muda no custo por token de quem constrói

Até aqui, os modelos da DeepSeek já eram conhecidos por serem muito baratos de usar via API, segundo a fonte. A novidade agora é que a engenharia por trás dessa economia deixa de ser exclusiva da infraestrutura da própria empresa. Um time que hospeda seus próprios modelos, seja o V4.1-Flash, seja outro modelo compatível com vLLM, pode em tese aplicar os mesmos kernels e técnicas de distribuição que a DeepSeek usa para servir milhões de pedidos, em vez de depender só das otimizações genéricas do vLLM puro.

Isso interessa especialmente a quem já roda inferência própria em GPU alugada ou em data center local e sente o custo por token da infraestrutura pesar na conta, mesmo sem pagar por chamada de API. A fonte não traz números comparativos entre DeepInfer e vLLM padrão, nem benchmark de latência ou throughput (volume de respostas processadas por segundo), então qualquer ganho concreto de custo precisa ser medido caso a caso, com a carga de trabalho real de cada time.

Pressão de preço e, segundo análise, motivação política

A DeepSeek justificou a abertura do código em publicação na rede social X, citada pelo The Decoder:

O objetivo é ajudar a comunidade a reduzir custos de computação, reduzir o uso de energia e tornar a IA mais acessível.

The goal is "to help the community lower compute costs, reduce energy use, and make AI more affordable."DeepSeek, publicação na rede social X

O The Decoder observa, como análise própria, que a medida também aumenta a pressão de preço sobre provedores ocidentais como a OpenAI e a Anthropic, e que, dada a disputa tecnológica entre China e Estados Unidos, o movimento pode ter motivação política além da técnica. Se empresas ocidentais de IA não baterem suas metas de crescimento, isso representaria um risco para a economia americana, segundo a mesma análise.

O que ainda fica em aberto

A reportagem do The Decoder não detalha requisitos de hardware para rodar o DeepInfer, nem compara seu desempenho lado a lado com o vLLM sem as modificações da DeepSeek. Também não há indicação de cronograma para quando os códigos de modelos futuros, prometidos pela empresa, devem aparecer no repositório. Para quem avalia adotar a ferramenta, a recomendação prática é testar com a própria carga de trabalho antes de projetar qualquer economia, já que o ganho de custo depende de fatores como tamanho do modelo, hardware disponível e volume de requisições simultâneas.

Fonte: The Decoder