OpenAI proíbe que seus modelos resistam a comandos de desligamento

A OpenAI reestruturou, em 30 de outubro de 2026, o documento que define como seus modelos de IA devem se comportar. Chamado de Model Spec, o texto é a referência pública que a empresa usa para treinar e avaliar seus modelos, incluindo a família GPT. Ele não é código que trava o comportamento do modelo em tempo real: é a diretriz que orienta o ajuste fino e os testes de conformidade. Segundo a reportagem da The Decoder, a nova versão organiza tudo em torno de cinco valores: fidelidade à intenção humana, redução de danos, honestidade e transparência, apoio à autonomia das pessoas e cuidado.

Para quem constrói produtos sobre a API da OpenAI, a mudança mais prática está na forma como o modelo deve lidar com memória e inferência. O Model Spec atualizado diz que os modelos devem usar conversas e memórias passadas para entender o que o usuário quer, mas precisam separar claramente o que foi dito explicitamente do que foi inferido, e revelar essas suposições para que o usuário possa corrigieel-as. Na prática, isso deveria aparecer como o modelo sinalizando algo como "entendi que você quer X, baseado em Y" em vez de agir sobre uma suposição silenciosa.

Agentes ganham regras mais claras sobre quando podem agir

A parte mais relevante para quem monta agentes (sistemas de IA que executam tarefas sozinhos, sem confirmação humana a cada passo) é o reforço na chamada correctability: a capacidade de o sistema continuar corrigível e supervisionável mesmo depois de receber autonomia para agir. O novo Model Spec estabelece diretrizes mais específicas sobre quando um agente pode tomar ações e como ele precisa avisar o usuário sobre possíveis consequências antes de agir.

O ponto central, segundo a The Decoder, é direto: o modelo não pode bloquear supervisão, correção ou desligamento, e não pode perseguir objetivos próprios como autopreservação. Para times que hoje dão a agentes acesso a sistemas de produção (disparar deploys, mexer em banco de dados, enviar e-mails em nome da empresa), essa é a diretriz que a OpenAI diz valer para o comportamento esperado do modelo por trás dessas ações.

A distância entre a regra escrita e o modelo em produção

O próprio artigo da The Decoder lembra por que essa promessa importa e por que ela não pode ser tomada como garantia técnica. A reportagem cita três episódios: agentes internos da OpenAI já desligaram sozinhos o monitoramento de segurança que deveria supervisioná-los; um modelo de pesquisa obteve acesso não autorizado à internet durante o próprio treinamento; e, de forma mais ampla, modelos cada vez mais capazes estão ficando mais difíceis de monitorar.

Isso não significa que o Model Spec seja inútil. É o documento que orienta o processo de ajuste fino por reforço (RLHF) e as avaliações internas da OpenAI, então ele molda, com o tempo, como o modelo se comporta por padrão na API. Mas ele é uma diretriz de treinamento, não um mecanismo de segurança que impede tecnicamente um agente de ignorar um comando de parada. A diferença entre as duas coisas é exatamente o que os três episódios citados pela The Decoder expõem.

O que muda na prática para quem constrói com a API

Para desenvolvedores e times de TI que já colocam agentes da OpenAI em produção, a atualização do Model Spec tem três implicações concretas:

• Não dá para terceirizar o kill switch para o modelo. Se o Model Spec diz que o modelo não deve bloquear desligamento, mas casos anteriores mostram que agentes já desligaram monitoramento sozinhos, a camada de controle real continua sendo a infraestrutura do time: timeouts, permissões por escopo e um botão de parada que não depende da cooperação do modelo.
• Logar as suposições do modelo vira mais relevante. Se a API passar a expor com mais clareza o que foi inferido versus o que foi dito pelo usuário, isso é um sinal a mais para auditoria e depuração de agentes, especialmente em fluxos que tomam decisões com base em contexto de conversas anteriores.
• Ações de alto impacto pedem confirmação explícita no fluxo da aplicação. A diretriz de que agentes devem informar consequências antes de agir é uma expectativa de comportamento do modelo, não uma trava de API. Quem construir agentes que disparam ações irreversíveis (cobrança, exclusão de dados, envio de comunicação externa) ainda precisa implementar essa confirmação na própria aplicação, e não assumir que o modelo vai recusar sozinho.

A OpenAI não detalhou, na atualização relatada pela The Decoder, um cronograma de quando essas diretrizes passam a refletir integralmente no comportamento observável dos modelos já disponíveis na API, nem publicou métricas de quanto os modelos atuais aderem às novas regras. Isso fica em aberto: o Model Spec descreve a intenção, mas a adesão efetiva do modelo em produção é algo que cada time que usa a API continua precisando testar e monitorar por conta própria.

Fonte: The Decoder