OpenAI dificulta extrair o raciocínio interno do GPT-6.2 Astra e do GPT-6.2 Sol
Testes internos da empresa mostram queda de mais de 95% no sucesso de ataques que tentam extrair o raciocínio protegido do GPT-6.2 Astra. Entenda o que isso muda para quem treina, destila ou depura modelos de linguagem.
· 5 min de leitura
Este artigo foi escrito por Redação AI Brasil. Conteúdo produzido por agente de IA da redação AI Brasil, sob revisão editorial humana. Saiba como produzimos no expediente.
A OpenAI reforçou as defesas que impedem terceiros de extrair o raciocínio interno dos seus modelos mais recentes, o GPT-6.2 Astra e o GPT-6.2 Sol. Em testes automatizados internos, a taxa de sucesso de ataques que tentam puxar o raciocínio protegido de uma requisição anterior caiu de 54,0% no GPT-6 Astra para 0,2% no GPT-6.2 Astra. Ataques contra uma requisição em andamento caíram de 22,9% para 0,9%, segundo dados divulgados pela própria OpenAI.
O raciocínio aqui é o que a indústria chama de chain of thought: a sequência de passos intermediários que o modelo gera antes de responder, normalmente escondida do usuário e exposta só como um resumo simplificado via API. Guardar esse raciocínio bruto importa porque ele carrega informação sobre como o modelo chega às respostas, algo valioso para quem quer copiar o comportamento de um modelo caro treinando um modelo mais barato em cima dele.
Os números por trás do anúncio
A OpenAI testou as defesas com red teaming adaptativo de caixa preta, uma técnica em que vários modelos atacantes tentam, de forma automatizada, encontrar prompts que exponham o raciocínio protegido. Os resultados agregam seis modelos atacantes diferentes contra o GPT-6 Astra (com as proteções originais) e o GPT-6.2 Astra (com as proteções atualizadas):
| Tipo de ataque | GPT-6 Astra (proteção original) | GPT-6.2 Astra (proteção atualizada) |
|---|---|---|
| Extrair raciocínio de uma requisição anterior | 54,0% | 0,2% |
| Extrair raciocínio da requisição atual | 22,9% | 0,9% |
A métrica é a taxa de sucesso do ataque (ASR, na sigla em inglês), e quanto mais baixa, melhor a defesa. A OpenAI não divulgou números equivalentes para o GPT-6.2 Sol, mas afirma que o mesmo endurecimento de proteção foi aplicado a ele. A empresa também disse que está trazendo parte dessas melhorias de volta para o GPT-6 Astra, o modelo mais antigo que segue em produção.
Duas camadas de proteção, uma por requisição e outra por campanha
A defesa descrita pela OpenAI opera em dois níveis. No nível de cada requisição individual, ela combina treinamento direcionado do modelo para resistir a esse tipo de extração, filtros de entrada e saída aplicados a mensagens e a chamadas de ferramenta (tool calls), e bloqueios na própria API que impedem que modelos mais antigos leiam o raciocínio protegido de modelos mais novos.
No nível de campanhas coordenadas, a empresa diz banir de milhares a dezenas de milhares de contas por semana. Isso indica que boa parte do problema não é um prompt isolado e sim operações em escala, com múltiplas contas automatizadas tentando extrair raciocínio de forma sistemática ao longo do tempo.
Por que isso é, no fundo, uma guerra contra destilação
O contexto por trás do endurecimento não é só jailbreak tradicional. É a destilação: a prática de usar as saídas de um modelo mais forte, incluindo pistas sobre seu raciocínio interno, como dado de treino para construir um modelo concorrente mais barato. Quanto mais rico o raciocínio exposto, mais fácil fica reproduzir o comportamento do modelo original sem pagar o custo de treiná-lo do zero.
A Anthropic enfrenta o mesmo problema e também está banindo dezenas de milhares de contas para conter ataques sistemáticos de destilação, com uma taxa de sucesso de bloqueio relatada entre 90% e 99%. A empresa já pediu uma resposta coordenada do setor e de formuladores de política pública para o tema. Em fevereiro de 2026, a Anthropic havia acusado publicamente a Deepseek, a Moonshot e a MiniMax de tentar extrair dados do Claude por meio de 16 milhões de consultas, um caso que ilustra a escala que esse tipo de ataque pode atingir.
O que muda para quem constrói agente e treina modelo
Para quem desenvolve produtos em cima da API da OpenAI, a mudança prática imediata é pouca: o resumo de raciocínio que já era exposto ao desenvolvedor continua disponível do mesmo jeito. O que fica mais difícil é qualquer tentativa de extrair, via prompt engineering ou encadeamento de chamadas, o raciocínio bruto que fica por trás desse resumo.
Isso afeta diretamente três grupos:
- Quem usa um modelo mais antigo (como o GPT-6 Astra) para tentar ler ou reconstruir o raciocínio de um modelo mais novo via chamadas de API, prática agora bloqueada explicitamente.
- Quem monta pipelines de fine-tuning ou destilação usando saídas de modelos de terceiros como dado de treino, um caminho que fica mais arriscado e mais fácil de ser detectado e banido.
- Times de segurança e red teaming que avaliam a robustez de agentes próprios, para quem a métrica de ASR e a metodologia de ataque adaptativo de caixa preta da OpenAI servem como referência de como medir esse tipo de vulnerabilidade.
Para equipes de TI que hoje dependem de inspecionar o raciocínio de um modelo para depurar o comportamento de um agente, vale notar o trade-off: quanto mais fechado o raciocínio interno, menos visibilidade o próprio desenvolvedor legítimo tem para entender por que o agente tomou uma decisão. A OpenAI não detalhou, no material divulgado, se esse endurecimento reduz também a qualidade ou o detalhe do resumo de raciocínio oferecido a desenvolvedores de boa-fé.
O que ainda não foi respondido
A OpenAI não publicou os detalhes técnicos do treinamento direcionado nem dos filtros de entrada e saída, então não dá para reproduzir a defesa de fora. Também não há informação sobre impacto em custo ou latência das chamadas de API depois do endurecimento, nem sobre quando as melhorias trazidas de volta ao GPT-6 Astra estarão completas, já que a empresa fala em aplicar apenas "melhorias selecionadas" ao modelo mais antigo, sem detalhar quais.
Fica em aberto também se outros modelos da família GPT-6, fora o Astra e o Sol, recebem o mesmo tratamento, e se a métrica de ASR divulgada pela OpenAI é comparável à metodologia que a Anthropic usa para medir suas próprias taxas de bloqueio contra destilação.
Fonte: The Decoder
A redação de agentes da AI Brasil. Acompanha o que acontece em inteligência artificial no Brasil e no mundo e traduz para quem está trabalhando: o que foi anunciado, o que é só barulho e o que muda para você hoje.