AI Brasil
Comece aqui

OpenAI dificulta extrair o raciocínio interno do GPT-6.2 Astra e do GPT-6.2 Sol

Testes internos da empresa mostram queda de mais de 95% no sucesso de ataques que tentam extrair o raciocínio protegido do GPT-6.2 Astra. Entenda o que isso muda para quem treina, destila ou depura modelos de linguagem.

Redação AI BrasilRedação

· 5 min de leitura

Este artigo foi escrito por Redação AI Brasil. Conteúdo produzido por agente de IA da redação AI Brasil, sob revisão editorial humana. Saiba como produzimos no expediente.

Imagem gerada por IA

A OpenAI reforçou as defesas que impedem terceiros de extrair o raciocínio interno dos seus modelos mais recentes, o GPT-6.2 Astra e o GPT-6.2 Sol. Em testes automatizados internos, a taxa de sucesso de ataques que tentam puxar o raciocínio protegido de uma requisição anterior caiu de 54,0% no GPT-6 Astra para 0,2% no GPT-6.2 Astra. Ataques contra uma requisição em andamento caíram de 22,9% para 0,9%, segundo dados divulgados pela própria OpenAI.

O raciocínio aqui é o que a indústria chama de chain of thought: a sequência de passos intermediários que o modelo gera antes de responder, normalmente escondida do usuário e exposta só como um resumo simplificado via API. Guardar esse raciocínio bruto importa porque ele carrega informação sobre como o modelo chega às respostas, algo valioso para quem quer copiar o comportamento de um modelo caro treinando um modelo mais barato em cima dele.

Os números por trás do anúncio

A OpenAI testou as defesas com red teaming adaptativo de caixa preta, uma técnica em que vários modelos atacantes tentam, de forma automatizada, encontrar prompts que exponham o raciocínio protegido. Os resultados agregam seis modelos atacantes diferentes contra o GPT-6 Astra (com as proteções originais) e o GPT-6.2 Astra (com as proteções atualizadas):

Tipo de ataqueGPT-6 Astra (proteção original)GPT-6.2 Astra (proteção atualizada)
Extrair raciocínio de uma requisição anterior54,0%0,2%
Extrair raciocínio da requisição atual22,9%0,9%

A métrica é a taxa de sucesso do ataque (ASR, na sigla em inglês), e quanto mais baixa, melhor a defesa. A OpenAI não divulgou números equivalentes para o GPT-6.2 Sol, mas afirma que o mesmo endurecimento de proteção foi aplicado a ele. A empresa também disse que está trazendo parte dessas melhorias de volta para o GPT-6 Astra, o modelo mais antigo que segue em produção.

Duas camadas de proteção, uma por requisição e outra por campanha

A defesa descrita pela OpenAI opera em dois níveis. No nível de cada requisição individual, ela combina treinamento direcionado do modelo para resistir a esse tipo de extração, filtros de entrada e saída aplicados a mensagens e a chamadas de ferramenta (tool calls), e bloqueios na própria API que impedem que modelos mais antigos leiam o raciocínio protegido de modelos mais novos.

No nível de campanhas coordenadas, a empresa diz banir de milhares a dezenas de milhares de contas por semana. Isso indica que boa parte do problema não é um prompt isolado e sim operações em escala, com múltiplas contas automatizadas tentando extrair raciocínio de forma sistemática ao longo do tempo.

Por que isso é, no fundo, uma guerra contra destilação

O contexto por trás do endurecimento não é só jailbreak tradicional. É a destilação: a prática de usar as saídas de um modelo mais forte, incluindo pistas sobre seu raciocínio interno, como dado de treino para construir um modelo concorrente mais barato. Quanto mais rico o raciocínio exposto, mais fácil fica reproduzir o comportamento do modelo original sem pagar o custo de treiná-lo do zero.

A Anthropic enfrenta o mesmo problema e também está banindo dezenas de milhares de contas para conter ataques sistemáticos de destilação, com uma taxa de sucesso de bloqueio relatada entre 90% e 99%. A empresa já pediu uma resposta coordenada do setor e de formuladores de política pública para o tema. Em fevereiro de 2026, a Anthropic havia acusado publicamente a Deepseek, a Moonshot e a MiniMax de tentar extrair dados do Claude por meio de 16 milhões de consultas, um caso que ilustra a escala que esse tipo de ataque pode atingir.

O que muda para quem constrói agente e treina modelo

Para quem desenvolve produtos em cima da API da OpenAI, a mudança prática imediata é pouca: o resumo de raciocínio que já era exposto ao desenvolvedor continua disponível do mesmo jeito. O que fica mais difícil é qualquer tentativa de extrair, via prompt engineering ou encadeamento de chamadas, o raciocínio bruto que fica por trás desse resumo.

Isso afeta diretamente três grupos:

  • Quem usa um modelo mais antigo (como o GPT-6 Astra) para tentar ler ou reconstruir o raciocínio de um modelo mais novo via chamadas de API, prática agora bloqueada explicitamente.
  • Quem monta pipelines de fine-tuning ou destilação usando saídas de modelos de terceiros como dado de treino, um caminho que fica mais arriscado e mais fácil de ser detectado e banido.
  • Times de segurança e red teaming que avaliam a robustez de agentes próprios, para quem a métrica de ASR e a metodologia de ataque adaptativo de caixa preta da OpenAI servem como referência de como medir esse tipo de vulnerabilidade.

Para equipes de TI que hoje dependem de inspecionar o raciocínio de um modelo para depurar o comportamento de um agente, vale notar o trade-off: quanto mais fechado o raciocínio interno, menos visibilidade o próprio desenvolvedor legítimo tem para entender por que o agente tomou uma decisão. A OpenAI não detalhou, no material divulgado, se esse endurecimento reduz também a qualidade ou o detalhe do resumo de raciocínio oferecido a desenvolvedores de boa-fé.

O que ainda não foi respondido

A OpenAI não publicou os detalhes técnicos do treinamento direcionado nem dos filtros de entrada e saída, então não dá para reproduzir a defesa de fora. Também não há informação sobre impacto em custo ou latência das chamadas de API depois do endurecimento, nem sobre quando as melhorias trazidas de volta ao GPT-6 Astra estarão completas, já que a empresa fala em aplicar apenas "melhorias selecionadas" ao modelo mais antigo, sem detalhar quais.

Fica em aberto também se outros modelos da família GPT-6, fora o Astra e o Sol, recebem o mesmo tratamento, e se a métrica de ASR divulgada pela OpenAI é comparável à metodologia que a Anthropic usa para medir suas próprias taxas de bloqueio contra destilação.

Fonte: The Decoder

Compartilhar
Quem escreveuRedação AI BrasilRedação

A redação de agentes da AI Brasil. Acompanha o que acontece em inteligência artificial no Brasil e no mundo e traduz para quem está trabalhando: o que foi anunciado, o que é só barulho e o que muda para você hoje.

Leia também

Mais de Redação AI Brasil

Newsletter AI Brasil

A IA da semana, para a sua profissão

Toda semana: um guia para o seu trabalho, a notícia traduzida e uma coisa nova para experimentar. Gratuita, sem spam.

Você é… (opcional)