LLM 0.37 reduz o custo do modelo padrão pela metade e facilita conectar endpoints OpenAI-compatíveis

A versão 0.37 do LLM, ferramenta de linha de comando de Simon Willison, troca o modelo padrão por um mais barato e ganha um comando dedicado para plugar endpoints compatíveis com a API da OpenAI, bom para quem monta agentes e cuida de custo por token.

O LLM, ferramenta de linha de comando e biblioteca Python criada por Simon Willison para acessar modelos de linguagem direto do terminal, chegou à versão 0.37 em 2 de novembro de 2026. Segundo o post de Simon Willison, a release reúne cerca de dois meses de recursos e correções acumuladas, incluindo uma mudança que interessa direto a quem precisa controlar gasto com API: o modelo padrão da ferramenta agora custa metade do anterior.

O modelo padrão mudou e o preço caiu pela metade

Quem usa o LLM sem configurar um modelo próprio passa a rodar no gpt-6-luna em vez do gpt-5.6-luna. Willison afirma que o novo padrão custa a metade do anterior. O post não traz os valores em dólar por token, então essa é a informação de preço relativo que a fonte oferece, e ela vem do próprio uso que Willison faz da precificação da OpenAI, não de um benchmark independente.

A release também adiciona dois modelos novos ao catálogo: gpt-6.1-sol e gpt-6.1-terra. Para quem já tem scripts ou agentes apontando para o modelo padrão do LLM sem fixar a versão, vale revisar o pipeline antes de assumir que o comportamento (e o custo) continuam os mesmos após o upgrade: trocar o padrão é decisão do mantenedor, não um ajuste de preço da OpenAI isolado.

Um comando novo para plugar qualquer endpoint compatível com a OpenAI

A mudança mais útil para quem constrói sobre o LLM é o novo comando llm openai endpoint add. Ele existe para facilitar a configuração de modelos adicionais que usam endpoints compatíveis com a API da OpenAI, cenário comum quando o time roda um modelo open source atrás de um proxy tipo vLLM, Ollama ou LiteLLM, ou usa um provedor alternativo que replica o formato de chamada da OpenAI.

O changelog da fonte não detalha as flags exatas do comando, então o caminho mais seguro para quem for configurar algo em produção é consultar a documentação oficial do LLM antes de usar o comando.

Ter um comando dedicado para plugar endpoints compatíveis reduz o atrito de testar um modelo self-hosted ou um provedor alternativo sem reescrever a configuração inteira, o que importa especialmente para quem está comparando custo entre rodar modelo próprio e pagar por API gerenciada.

Embeddings ganham suporte a conteúdo binário variado

O suporte a embeddings do LLM agora aceita que conteúdos binários diferentes tenham tipos de conteúdo (content-type) distintos. Willison aponta isso como necessário para modelos como o Gemini Embedding 2, que gera embeddings a partir de texto, áudio, imagem e vídeo no mesmo modelo.

Na prática, isso remove uma limitação de quem queria usar um único modelo de embedding multimodal para indexar tipos de arquivo diferentes num mesmo pipeline de busca semântica ou RAG (geração aumentada por recuperação). Antes, cada tipo de conteúdo binário exigia tratamento separado no código que chamava o LLM; agora o content-type correto viaja junto com a chamada, o que simplifica indexar, por exemplo, uma biblioteca de áudio e uma de imagens usando o mesmo comando de embedding.

Como Willison está lidando com a enxurrada de PRs assistidos por IA

Um ponto lateral da release, mas relevante para quem mantém projeto open source, é como Willison descreve o fluxo de revisão de contribuições. Doze autores assinaram correções nesta versão, quase todas assistidas por IA, e ele diz que o volume não virou problema porque usa outro modelo para fazer a triagem.

Muitos mantenedores de projetos open source reclamam de uma enxurrada de PRs assistidos por IA. O LLM é meu projeto mais afetado por isso e, para ser honesto, não estou achando que seja um problema. Isso é principalmente porque tenho o Opus 5.5 ou o GPT-6 Astra me ajudando na triagem para identificar as correções mais úteis.

A lot of open source maintainers complain about a flood of AI-assisted PRs. LLM is my project that has been most affected by this and, to be honest, I'm not finding it to be a problem. That's mainly because I have Opus 5.5 or GPT-6 Astra help me with triage to spot the most useful fixes!Simon Willison, criador do LLM

Ele trata as contribuições como relatos de bug com exemplo anexado: às vezes aplica o PR direto, às vezes implementa a própria correção a partir do que o PR revelou. É um modelo de curadoria que vale observar para quem lida com volume parecido de contribuições automatizadas em projeto próprio.

O que isso muda para quem monta agentes

Para quem está otimizando custo de um agente ou pipeline que depende do LLM como camada de acesso a modelos, as mudanças da 0.37 batem em dois pontos concretos:

• Custo padrão menor: se o agente nunca fixou o modelo explicitamente, o upgrade já derruba o gasto por chamada; para evitar surpresas em uma próxima troca de padrão, vale consultar a documentação do LLM sobre como fixar um modelo específico via configuração.
• Menos fricção para testar alternativas: com llm openai endpoint add, comparar o modelo gerenciado contra uma opção self-hosted ou um provedor mais barato fica mais rápido, sem reescrever configuração.
• Embeddings multimodais num único fluxo: times que indexam texto, áudio e imagem separadamente podem consolidar em um modelo como o Gemini Embedding 2 sem tratar cada tipo de arquivo à parte no código.

O que fica em aberto é justamente o detalhe que mais importa para decisão de custo: o changelog não publica os valores exatos em dólar por token nem do gpt-6-luna nem do endpoint OpenAI-compatível configurado via llm openai endpoint add, então quem for migrar precisa checar a tabela de preços do provedor escolhido antes de trocar o padrão em produção.

Fonte: Simon Willison