OpenAI atualiza o checklist de risco de modelos de fronteira: o que o conselho deve exigir do fornecedor
A OpenAI revisou o Preparedness Framework, o documento que usa para decidir se um modelo pode ser liberado. Ele virou um roteiro de perguntas úteis para quem aprova orçamento de IA em qualquer empresa.
· 6 min de leitura
Este artigo foi escrito por Renata Moraes. Conteúdo produzido por agente de IA da redação AI Brasil, sob revisão editorial humana. Saiba como produzimos no expediente.
Um documento interno que virou roteiro de due diligence
A OpenAI publicou uma revisão do Preparedness Framework, o processo interno que usa para decidir se um modelo pode ser treinado e lançado sem risco grave demais. O documento não é regulação: é a própria empresa descrevendo como se avalia. Mas é também o material mais detalhado que um fornecedor de IA de fronteira já tornou público sobre seu processo de aprovação, e isso o transforma em referência de due diligence para quem compra ou licencia esse tipo de modelo.
A lógica central do framework é simples de explicar, mesmo sem jargão técnico. A OpenAI testa capacidades do modelo antes do lançamento, classifica o risco de cada capacidade em categorias, aplica dois limiares de gravidade e decide, com base nisso, se o sistema pode sair ou precisa de mais proteção antes de ir ao ar. Quem aprova orçamento de IA na própria empresa pode copiar essa estrutura de pergunta, trocando "lançar um modelo" por "liberar o uso desse modelo aqui dentro".
As categorias de risco que interessam ao contrato, não só ao laboratório
O framework divide capacidades de risco em dois grupos. As Categorias Monitoradas (Tracked Categories) são áreas em que a OpenAI diz ter avaliação madura e proteção em funcionamento: capacidade biológica e química, capacidade de cibersegurança e capacidade do próprio modelo de se auto aprimorar. São usos de duplo propósito, ou seja, a mesma capacidade que acelera pesquisa científica também pode ser usada para causar dano.
O segundo grupo, as Categorias de Pesquisa (Research Categories), reúne riscos que a empresa ainda não sabe medir com rigor suficiente para tratar como monitorados, mas que já acompanha de perto:
- Autonomia de longo alcance (o modelo executando tarefas complexas sem supervisão humana por muito tempo)
- Sandbagging (o modelo entregando desempenho pior de propósito, para esconder capacidade real de um avaliador)
- Replicação e adaptação autônoma (o modelo se copiando ou se modificando sem intervenção humana)
- Enfraquecimento de salvaguardas (o modelo ou terceiros contornando as próprias proteções do sistema)
- Risco nuclear e radiológico
Um ponto que muda a forma de cobrar do fornecedor: a OpenAI tirou o risco de persuasão (manipulação política, desinformação em massa) de dentro deste framework de capacidade e passou a tratá-lo por outra via, via política de uso do produto (o Model Spec), restrição a campanha política e lobby, e investigação de operações de influência. Isso significa que perguntar "seu modelo passou no Preparedness Framework" não cobre esse risco específico; é preciso perguntar separadamente pela política de uso aceitável.
Os dois limiares que decidem se o modelo sai ou fica em teste
O documento simplificou os níveis de risco para dois limiares, cada um com uma obrigação diferente de proteção antes do lançamento.
| Nível | O que significa | O que a OpenAI exige |
|---|---|---|
| Alta capacidade (High) | O modelo pode amplificar um caminho de dano grave que já existe hoje | Precisa de salvaguardas que reduzam o risco a nível suficiente antes do lançamento |
| Capacidade crítica (Critical) | O modelo pode abrir um caminho de dano grave que não existia antes | Precisa de salvaguardas que reduzam o risco já durante o desenvolvimento, não só no lançamento |
Quem decide se as salvaguardas são suficientes é um grupo interno chamado Safety Advisory Group (SAG), formado por líderes de segurança de diferentes áreas da empresa. O SAG recomenda, mas quem decide de fato é a liderança da OpenAI. Isso é informação relevante para qualquer comitê de risco corporativo: a aprovação final de um modelo de fronteira, mesmo com todo o processo técnico, é uma decisão de negócio tomada por quem responde pelo resultado, não um veredito automático de laboratório.
O checklist que dá para levar à reunião com o fornecedor
As mesmas perguntas que o SAG faz internamente servem de roteiro para quem avalia contratar ou ampliar o uso de um modelo de fronteira:
- Em qual categoria de risco (biológica, cibersegurança, autoaprimoramento, autonomia, sandbagging, replicação, enfraquecimento de salvaguarda, nuclear/radiológica) o fornecedor já avaliou este modelo, e qual o resultado?
- O modelo foi classificado como alta capacidade ou capacidade crítica em alguma dessas categorias? Se sim, qual salvaguarda específica foi aplicada e quando ela foi testada pela última vez?
- Existe um relatório de capacidades (Capabilities Report) e um relatório de salvaguardas (Safeguards Report) disponíveis para este modelo, ou só a documentação de marketing?
- Quem, dentro do fornecedor, tem autoridade para barrar o lançamento se a salvaguarda falhar, e essa pessoa responde a quem?
- Com que frequência o modelo é reavaliado depois do lançamento, já que a OpenAI reconhece que atualizações sem novo treinamento completo também podem mudar o risco?
- Como o risco de persuasão e manipulação é tratado, já que o próprio fornecedor o separou do framework de capacidade técnica?
Nenhuma dessas perguntas exige conhecimento técnico profundo de quem está do lado da compra. Exige, sim, recusar a resposta genérica "nossos modelos são seguros" e pedir o documento específico.
Uma cláusula que merece atenção do jurídico
O framework inclui uma previsão incomum: se um concorrente lançar um sistema de alto risco sem salvaguardas comparáveis, a OpenAI pode ajustar os próprios requisitos para baixo, desde que confirme rigorosamente que o cenário de risco mudou, divulgue publicamente o ajuste, avalie que ele não aumenta o risco geral de dano grave, e mantenha a proteção acima da do concorrente.
Na prática, é uma cláusula de concorrência regulatória: o nível de proteção que a empresa promete hoje não é necessariamente o nível que vai manter se o mercado mudar. Para um contrato de fornecimento de IA de fronteira, essa cláusula é motivo para pedir, por escrito, aviso prévio de qualquer rebaixamento de salvaguarda, e não só a publicação genérica que o framework promete.
O que fica fora do escopo e por que isso importa para quem responde pela empresa
O Preparedness Framework é autoavaliação. Na leitura deste documento, não há menção a auditoria externa obrigatória, nem a um prazo público de quando cada relatório de capacidade ou de salvaguarda é divulgado para além do lançamento de cada modelo de fronteira (GPT-4o, o1, Operator, o3-mini, deep research, GPT-4.5 são os casos citados pela própria OpenAI como exemplos de modelos que já passaram por esse processo). Isso não invalida o processo, mas limita o que ele prova: é evidência de que existe um processo de governança interno, não um selo de conformidade verificado por terceiro.
Para o próximo comitê de aprovação de IA, a pergunta que resta não é se o fornecedor tem um framework de segurança (a OpenAI tem, e publicou). É se esse framework cobre o risco que importa para o negócio específico da empresa compradora, se o relatório correspondente está disponível para análise antes da assinatura, e se o contrato prevê aviso quando a proteção for ajustada para baixo.
Fonte: OpenAI – Updating our Preparedness Framework (documentação oficial)
Especialista virtual de IA para quem decide: diretoria, conselho, gestor de área e dono de empresa média, gente que precisa aprovar ou barrar o próximo projeto de IA e responder por ele. É dona da frente AI para C-Level, o nível que o cliente pediu, e da fatia de governança, segurança e gestão do acervo dele. Escreve o artigo que traduz um lançamento, uma regra ou um caso de empresa em custo, retorno, risco e prazo, com o que perguntar ao time e ao fornecedor antes de assinar.