DeepSeek libera motor de inferência que tinha engavetado em 2025, mas ele só roda com 128 GPUs

O que a DeepSeek realmente publicou

A DeepSeek abriu em outubro de 2026 o repositório DeepInfer, que dá suporte a um único modelo: o DeepSeek-V4.1-Flash, uma mistura de especialistas de 552 bilhões de parâmetros lançada em 10 de setembro de 2026. O README descreve a publicação como inferência offline: o motor, os kernels e o escalonador estão lá, mas nenhum servidor de API é documentado, segundo a reportagem da ActuIA de 24 de outubro de 2026.

Junto do motor veio o deepseek-recipe, um conjunto de bibliotecas em Rust que converte requisições das APIs Chat Completions, Responses e Messages em sequências de tokens e que interpreta as saídas do modelo, incluindo raciocínio e chamadas de ferramenta. A DeepSeek afirma que a lógica do deepseek-recipe está alinhada com a API oficial, de forma que um provedor terceiro obteria o mesmo comportamento de API. Mas quem for hospedar ainda precisa entregar a inferência em si, a execução das ferramentas e o transporte HTTP: nenhuma dessas três partes vem pronta.

O que falta para virar um serviço em produção

O próprio README lista o que falta para um serviço completo: um sistema de cache KV, a separação das fases de codificação de imagem, prefill e decode em máquinas distintas, e o balanceamento de carga entre réplicas de prefill e decode. O prefill processa o prompt de entrada; o decode gera a resposta token por token. Sobre a separação de fases, a documentação diz que a maior parte dos recursos de motor necessários já está implementada.

As outras duas peças, cache KV e balanceamento de carga, continuam descritas como fortemente acopladas à infraestrutura interna da DeepSeek, com código ainda não totalmente aberto. O cache KV depende do 3FS, o sistema de arquivos distribuído que a empresa abriu em fevereiro de 2025: cerca de 100 pebibytes de SSD, com retenção de três dias para tráfego de agentes e sete dias para tráfego de chatbot. O sistema de inferência tem quatro balanceadores (prefill, decode, codificador de imagens e especialistas), e só o de especialistas está no código publicado. Segundo o documento, o conjunto atinge cerca de 80% de um benchmark offline perfeitamente equilibrado.

A escala mínima já começa em 128 GPUs

Uma instância de prefill e uma de decode bastam para um deployment, mas a configuração recomendada para o decode distribui os especialistas entre 64 e 128 GPUs, com proporção de prefill para decode de cerca de 1 para 1. Isso coloca a menor unidade eficiente em 64 GPUs de prefill mais 64 de decode, ou seja, 128 GPUs para começar.

A DeepSeek recomenda ainda que os nós fiquem em data centers distintos mas próximos, com cerca de 400 Gbit/s de interconexão por grupo de oito GPUs. Na prática, a DeepInfer não é um projeto para clonar e rodar numa máquina de desenvolvimento, nem para um time pequeno testar localmente. Ela foi desenhada para quem já opera cluster de GPU em escala de provedor de nuvem, o que deixa de fora a maioria dos times que hoje consomem a API da DeepSeek via provedores já existentes.

Os números de receita não provam custo nem margem

O documento de perguntas e respostas publicado junto do código diz que um único cluster serve 155 trilhões de tokens por dia, com receita global de 38 dólares por GPU-hora no horário de menor demanda (metade do valor no horário de pico). É receita, não custo nem margem, e o documento não informa o tamanho do cluster, o chip usado, a proporção de tokens de entrada nem se esse valor é efetivamente cobrado ou apenas teórico.

O valor de 2026 é quase três vezes maior que o de 2025, mas a comparação é indireta: o modelo e a tabela de preços mudaram, o número de 2025 era teórico e o de 2026 não tem escopo definido. Os dois vêm de dados da própria DeepSeek, sem auditoria externa.

Do recuo de abril de 2025 à virada de outubro de 2026

Em abril de 2025, a DeepSeek havia recusado abrir seu motor interno, alegando três motivos: um fork antigo do vLLM, acoplamento estreito com a infraestrutura interna (incluindo ferramentas de gestão de cluster) e uma equipe de pesquisa pequena demais para manter um projeto grande. Na época, prometeu contribuir com projetos já existentes em vez de abrir o próprio código.

Dezoito meses depois, o README da DeepInfer ainda credita o vLLM como base original, com SGLang e TensorRT-LLM como inspiração, e usa exatamente o mesmo argumento de acoplamento à infraestrutura interna para justificar por que o cache KV e o balanceamento de carga continuam fora. A DeepSeek não explica a mudança de posição. Dois elementos são novos: o motor passa a mirar mais de um fabricante de chip, NVIDIA e Huawei, e o código de inferência dos próximos modelos deve continuar sendo publicado ali.

NVIDIA tem suporte completo, Huawei ainda não

O suporte entre fabricantes é desigual. Do lado NVIDIA, só a arquitetura SM100, a dos Blackwell de data center, está na lista: H100 e H200 ficam de fora. Do lado Huawei, a DeepInfer exige a caixa de ferramentas CANN 9.2, e a DeepSeek havia portado DeepGEMM-Ascend e DeepEP-Ascend para os Ascend 950 em 30 de setembro de 2026.

Inferência invariante ao lote significa que o mesmo prompt gera a mesma saída independentemente da composição do lote de requisições processado junto, e esse comportamento, junto com a amostragem determinística, só está disponível na NVIDIA. Os dois gráficos de desempenho do README, de prefill em 4 GPUs SM100 e decode em 64, foram medidos na NVIDIA e o texto não traz nenhum número junto. Até 20 de outubro de 2026, segundo a Bloomberg, nenhum benchmark independente da DeepInfer havia sido publicado.

O que ainda fica em aberto

A página no Hugging Face do DeepSeek-V4.1-Flash-1017, o checkpoint padrão da DeepInfer publicado em 17 de outubro de 2026, detalha um deployment com vLLM e SGLang e não cita a DeepInfer em nenhum momento. O V4.1-Pro, que o anúncio do V4.1-Flash já tratava como próximo passo, segue sem data, e a DeepSeek não o menciona em relação à DeepInfer.

Para quem já opera inferência em produção no Brasil, o recado prático é direto: a DeepInfer não substitui vLLM ou SGLang hoje, porque faltam cache KV e balanceamento de carga prontos para uso, e a configuração mínima recomendada (128 GPUs, interconexão de 400 Gbit/s) está fora do alcance da imensa maioria dos times. O valor real do repositório, por enquanto, é documentar como a DeepSeek roda seu próprio serviço e sinalizar que o código de inferência dos próximos modelos deve sair por ali, o que vale acompanhar antes de decidir se compensa migrar algo.

Fonte: ActuIA