Anthropic pode ter cruzado seu próprio limite de segurança de IA em julho, segundo a METR

O que a auditoria encontrou

A METR, organização sem fins lucrativos que avalia riscos de segurança em sistemas de IA, teve acesso direto a dados internos da Anthropic entre 12 de agosto e 29 de outubro de 2026, segundo reportagem do The Decoder publicada em 6 de novembro de 2026. Uma equipe equivalente a 2,5 pessoas em tempo integral analisou resultados de benchmark de modelos ainda não lançados, métricas de treinamento, pesquisas internas com funcionários e cerca de 15 entrevistas com pesquisadores da empresa.

A conclusão central: o ritmo em que os modelos da Anthropic melhoram dobrou aproximadamente, e cerca de 80% dessa aceleração vem do uso de IA dentro da própria pesquisa da empresa. Na prática, a Anthropic estaria usando suas ferramentas de IA para acelerar a criação das próximas gerações de modelos, e esse é exatamente o tipo de sinal que times de segurança tratam como alerta precoce de um ciclo de retroalimentação.

Por que isso acende um alerta formal da própria Anthropic

A Anthropic mantém uma política interna chamada Responsible Scaling Policy (política de escala responsável, em tradução livre), que define níveis de risco conforme os modelos ficam mais capazes. Um dos gatilhos dessa política é justamente a aceleração automatizada: se o ritmo de progresso dobra por causa de IA pesquisando IA, isso deveria acionar um nível de alerta formal dentro da empresa.

Foi exatamente esse gatilho que a METR foi verificar. A preocupação de fundo, segundo a organização, é que um ciclo assim poderia levar a uma "emergência súbita de capacidades extremas e arriscadas", quando os modelos melhoram seus sucessores cada vez mais rápido e a supervisão humana perde o passo.

O índice que mediu dois anos de progresso em um só

Para quantificar a aceleração, a METR usou o AECI, um índice composto que a própria organização construiu juntando dezenas de benchmarks de capacidade da Anthropic numa única pontuação. Os números, segundo a reportagem:

• Antes de outubro de 2025: ganho de cerca de 15 pontos de AECI por ano
• Depois de outubro de 2025: ganho de cerca de 29 pontos de AECI por ano, um fator de aceleração de aproximadamente 1,9 vezes

A análise incluiu três modelos ainda não lançados, que terminaram o treinamento entre julho e outubro de 2026. Segundo a METR, o salto equivale ao que a Anthropic levou dois anos para alcançar antes, comprimido em cerca de um ano, algo na mesma ordem de grandeza do salto que separou o Claude 2.1 do Sonnet 4.5.

Funcionários relatam até 12 vezes mais produtividade, mas a própria METR desconfia

Em entrevistas internas, um pesquisador da Anthropic descreveu a mudança assim:

Agora o único gargalo é ideias e capacidade computacional, não mais o código.

Now only bottlenecked on ideas & compute, no longer bottlenecked on code.Pesquisador da Anthropic, citado pela METR

Outros relataram que experimentos que antes levavam de um a dois dias para configurar hoje saem "praticamente de graça". Em enquetes informais feitas no Slack da empresa em outubro de 2026, funcionários disseram, em média, que o modelo interno mais recente os tornou cerca de 12 vezes mais produtivos, ante um ganho autorrelatado de apenas 1,2 vez na época do Claude 3.7 Sonnet.

A própria METR trata esses números com cautela e os classifica como "evidência muito frágil", considerando-os não representativos e provavelmente inflados. Para quem constrói produto com modelos de IA, a ressalva importa: números de produtividade autodeclarados por quem usa a ferramenta todo dia tendem a superestimar o ganho real, seja dentro de um laboratório de IA, seja na adoção de um copiloto de código numa squad qualquer.

A Anthropic apagou boa parte das provas mais fortes

A Anthropic tinha direito unilateral de redigir (ocultar) qualquer informação não pública antes da publicação, e usou esse direito com força. Segundo a METR, a maior parte das evidências classificadas como mais informativas foi removida, incluindo projeções para modelos futuros, detalhamento por etapa de treinamento e a análise de gargalos.

A empresa justificou os cortes assim:

voltadas a remover informações confidenciais que poderiam acelerar outros desenvolvedores de IA.

aimed at removing confidential information that could accelerate other AI developers.Anthropic, em declaração citada pela METR

O efeito prático é que o público precisa confiar no julgamento da METR "muito mais do que seria ideal", nas palavras da própria organização. Um dos gráficos do relatório chega a trazer a marca "FAKE DATA" (dado falso) em letras grandes, sinalizando onde a informação real foi substituída.

Margem de erro grande e divergência dentro da própria Anthropic

A METR admite que o fator real de aceleração pode variar de 1,3 a 3 vezes, uma faixa ampla o suficiente para mudar a leitura do problema. Quando modelos da OpenAI, do Google e da xAI entram na conta, o número cai para apenas 1,4 vez no conjunto da indústria, possivelmente porque a Anthropic estava atrás das concorrentes em 2025 e agora vive um efeito de recuperação.

Nem dentro da Anthropic há consenso. Um pesquisador atribui à IA apenas de 15% a 20% do ganho de produtividade e desconfia dos relatos dos colegas. Outro credita boa parte da melhoria recente à contratação de novos pesquisadores, não ao uso de IA em si.

O limite pode ter sido cruzado em julho, mas o relatório público disse outra coisa

Em um relatório de risco publicado em agosto de 2026, a Anthropic afirmou publicamente que a aceleração era "menor que um fator de 2". A versão interna e não redigida, segundo a METR, aponta um valor de 1,97, e a própria Anthropic classifica como "plausível" que o limite já tenha sido cruzado, sem especificar uma data para isso. A METR, por sua vez, considera possível que o nível de alerta já tivesse sido atingido em 15 de julho de 2026.

A METR acusa o relatório público de subestimar tanto a aceleração quanto a incerteza em torno dela. Por ora, a organização concorda com a avaliação da Anthropic de que o risco catastrófico agudo é "baixo", mas não descarta uma nova aceleração forte nos próximos seis meses, o que poderia elevar essa classificação rapidamente.

Auditoria de computação cancelada no meio do caminho

A METR também deveria verificar como a Anthropic divide sua capacidade computacional entre pesquisa de capacidade e pesquisa de segurança. A Anthropic cancelou essa parte do projeto na metade, alegando que queria priorizar a avaliação de risco primeiro e retomar a auditoria de computação depois.

Daniel Kokotajlo, pesquisador por trás do cenário de previsão "AI 2027", criticou a decisão publicamente no X, argumentando que auditar a divisão de capacidade computacional é a base para tornar verificáveis quaisquer compromissos de desacelerar o desenvolvimento. Sem esse dado, segundo ele, promessas de segurança ficam difíceis de checar de fora.

O que muda para quem escolhe modelo e constrói agente aqui

Esse episódio importa para quem trabalha com Claude ou avalia modelos de IA por três motivos concretos. Primeiro, se o ritmo de melhoria da Anthropic realmente dobrou, os benchmarks que você usa hoje para decidir entre modelos podem ficar desatualizados mais rápido do que o normal, o que pede reavaliação de avaliações (evals) internas com mais frequência, não só quando sai uma versão nova anunciada publicamente.

Segundo, o caso dos 12x de produtividade autorrelatada é um lembrete direto para quem avalia ferramentas de IA no próprio time: ganho de produtividade medido por enquete informal, seja dentro de um laboratório de ponta ou numa squad qualquer, tende a vir inflado. Vale medir com tarefa controlada e comparação antes/depois, não com a percepção de quem já está na torcida pela ferramenta.

Terceiro, e talvez o mais relevante para quem decide com qual fornecedor de IA assinar contrato corporativo: se até uma auditoria paga para ser independente teve a maior parte das provas mais fortes redigidas pela própria empresa auditada, a transparência que sustenta relatórios de segurança de modelos de IA tem limite claro. Para times de compliance e governança que avaliam fornecedores de IA por aqui, isso significa tratar relatórios de segurança de laboratórios como ponto de partida, não como garantia fechada, e acompanhar publicações como as da METR como fonte independente de segunda opinião.

Fonte

The Decoder: "METR finds Anthropic may have crossed its own AI acceleration warning threshold back in July" (6 de novembro de 2026)

Fonte: The Decoder