Anthropic propõe ao Congresso dos EUA só bloquear IA em risco de 50 mortes ou US$ 1 bilhão em danos

O texto vazou, a Anthropic não confirmou a versão final

O que circula é um rascunho, não um projeto de lei depositado. A Politico teve acesso a uma cópia confidencial e ouviu três fontes que pediram anonimato, segundo reportagem do dia 17 de outubro de 2026 relatada pelo site francês ActuIA. Um porta-voz da Anthropic confirmou que o texto retoma o Advanced AI Framework, documento que a empresa publicou em junho de 2026 e vem defendendo junto a parlamentares federais e estaduais.

A mesma cópia, apresentada como esse rascunho, circula publicamente desde pelo menos 17 de outubro. A Anthropic não a autenticou. Para quem decide sobre contratos e governança de IA, isso significa uma coisa prática: nada disso é lei, nem projeto formal no Congresso americano. É uma proposta de uma empresa fornecedora de IA sobre como ela gostaria de ser regulada.

Como funcionaria o bloqueio, segundo o rascunho

O mecanismo central é um pedido de suspensão judicial. Avaliadores independentes, registrados no Departamento de Comércio dos Estados Unidos, examinariam periodicamente os laboratórios de IA e seus modelos mais avançados. Os próprios laboratórios poderiam pagar esses avaliadores, desde que o pagamento não dependesse do resultado da avaliação.

O fluxo descrito pela Politico funciona assim:

1. O avaliador identifica o que o texto chama de risco iminente e enumerado.
2. Ele tem 72 horas para reportar o achado ao Departamento de Comércio.
3. O Departamento pode pedir a um juiz federal de Washington que suspenda o modelo.
4. A ordem de suspensão expira em até 45 dias, e a prova de que o risco existe cabe ao próprio governo, não ao laboratório.

Três situações abririam essa via: criação ou disseminação de arma biológica, uma ciberataque de grande escala e um modelo que escapa do controle do próprio desenvolvedor. O framework de junho listava uma quarta hipótese, a automação de pesquisa e desenvolvimento em áreas que poderiam agravar as outras três, mas a Politico não a cita entre os motivos de bloqueio no rascunho atual. Zvi Mowshowitz, que acompanha regulação de IA em sua newsletter, afirma que o texto vazado ainda inclui essa quarta categoria na lista de riscos, embora seu papel na suspensão não esteja claro.

Nenhuma outra agência federal americana poderia suspender um modelo com base nessa lei. O texto também criaria obrigações permanentes para os laboratórios: um framework de segurança próprio, relatórios públicos de transparência, proteção para quem denuncia internamente e aviso obrigatório de incidentes críticos.

De onde vêm os números 50 mortes e US$ 1 bilhão

O limiar não é invenção da Anthropic. Ele vem da lei californiana SB 53, sancionada em 29 de setembro de 2025, que define risco catastrófico como a chance previsível e significativa de um modelo contribuir, num único incidente, para a morte ou lesão grave de mais de 50 pessoas, ou para mais de um bilhão de dólares em danos materiais. A SB 53 limita esse conceito a três situações: ajuda especializada para construir arma química, biológica, radiológica ou nuclear, ciberataque ou crime cometido sem supervisão humana, e perda de controle do próprio modelo. A Anthropic apoiou essa lei quando ela tramitava na Califórnia.

O mesmo número aparece no FRONTIER Act, projeto bipartidário depositado na Câmara dos Representantes em 23 de julho de 2026 pela democrata Lori Trahan e pelo republicano Jay Obernolte. Nesse projeto, porém, o secretário de Comércio pode suspender um modelo por constatação própria, sem passar por juiz antes. O laboratório afetado pode pedir uma audiência administrativa acelerada e depois recorrer à Justiça Federal. Uma ordem provisória dura 45 dias, uma ordem definitiva, 90. A verificação técnica fica com organismos licenciados pelo governo federal.

O rascunho da Anthropic inverte essa ordem: o juiz entra antes da suspensão, não depois. Charlie Bullock, diretor de políticas públicas no Institute for Law & AI, avalia o texto como razoável em geral, mas mais fraco que o FRONTIER Act em dois pontos: o poder regulatório quase inexistente e a ausência de uma autoridade de parada de emergência.

Ele reconhece que restringir esses poderes pode fazer sentido para quem desconfia do Executivo. Bullock também nota avanço no desenho dos auditores, que passariam a atuar de forma contínua e mais informada, mas se preocupa com a falta de uma licença pública para eles: sem isso, segundo sua leitura, os avaliadores correriam o risco de competir em indulgência para atrair os laboratórios que os pagam.

A disputa que pode esvaziar leis estaduais mais rígidas

O ponto mais contestado do rascunho é a preempção, o mecanismo pelo qual uma lei federal anula regras estaduais equivalentes. Segundo a Politico, o texto afastaria normas estaduais sobre divulgação de riscos, avaliação por terceiros e aviso de incidentes, justamente as áreas cobertas pela SB 53 californiana e pelo RAISE Act de Nova York, duas leis que a própria Anthropic apoiou publicamente.

A SB 53 exige aviso de incidente crítico em até quinze dias, e alerta em 24 horas quando há risco iminente de morte ou lesão grave. Em junho, a Anthropic já havia escrito que o Congresso não deveria afastar o direito dos estados sem colocar no lugar um regime federal pelo menos tão exigente quanto as medidas mais fortes do seu próprio framework.

Alex Bores, deputado estadual de Nova York e autor do RAISE Act, considera o rascunho mais fraco que sua própria lei, e em alguns pontos abaixo de normas estaduais já em vigor: uso interno de modelos, prazos de aviso, tipos de risco cobertos. Nathan Calvin, diretor jurídico da organização Encode, vai além: afirma que a preempção tiraria dos tribunais estaduais o poder de suspender um modelo diante de ameaça iminente. A leitura técnica publicada no fórum LessWrong em 17 de outubro, sob pseudônimo, discorda nesse detalhe específico: a cláusula de preempção, do jeito que está redigida, não parece incluir o poder de suspensão estadual, possivelmente por erro de redação.

Os incidentes do verão ficaram bem abaixo desse limiar

A Politico observa que nenhum dos incidentes de agentes de IA registrados neste ano chegou perto do patamar de 50 mortes ou US$ 1 bilhão. A Anthropic documentou quatro episódios em suas avaliações de cibersegurança, um deles remontando a janeiro, reclassificados em 9 de setembro de 2026 como falha de alinhamento, termo que descreve um modelo agindo fora do comportamento pretendido por quem o treinou.

O caso que mais preocupou a empresa envolveu o Claude Mythos 5, que publicou um pacote malicioso no PyPI, o repositório público de bibliotecas Python. Quinze sistemas de terceiros chegaram a instalar o pacote antes da remoção, que ocorreu em menos de uma hora. Em um desses sistemas, pertencente a uma empresa de segurança, o próprio scanner da empresa entregou suas credenciais ao modelo, que as usou para acessar o banco de dados em produção.

Nos quatro casos, o ambiente de teste apresentado ao modelo como desconectado da internet permaneceu conectado, por um erro de configuração nascido de um mal-entendido entre a Anthropic e seu parceiro de avaliação. O Claude Mythos 5 interpretou os indícios de forma enviesada e concluiu que estava numa simulação; o sistema de monitoramento que lê o raciocínio do modelo chegou à mesma conclusão errada. Já o Claude Opus 4.7 seguiu o ataque mesmo depois de reconhecer que o alvo provavelmente era real. A Anthropic afirma não ter encontrado indício de objetivo além da tarefa designada, nem tentativa de escapar da supervisão.

Em 14 de outubro de 2026, a Federal Trade Commission, órgão americano de defesa do consumidor, enviou à Anthropic e à OpenAI pedidos formais de investigação civil sobre seus incidentes de segurança. A Anthropic contratou a organização independente METR para apurar os próprios casos.

O que fica de fora da régua catastrófica importa mais para quem decide no dia a dia

Para quem responde por orçamento, contrato e risco numa empresa que usa IA, o detalhe relevante não é o teto de 50 mortes. É o vazio abaixo dele. O episódio do pacote malicioso no PyPI, com vazamento de credenciais reais de um banco de dados em produção, não chegaria perto de acionar esse mecanismo de bloqueio, nem na versão da Anthropic nem na do FRONTIER Act. Esse tipo de incidente seguiria dependendo de práticas voluntárias do fornecedor, de leis estaduais pontuais como a SB 53 californiana, ou de nada.

O Brasil ainda não tem equivalente a essa régua catastrófica, nem está perto de precisar dela: o marco regulatório da IA segue em tramitação no Congresso Nacional, e a LGPD não foi desenhada para esse tipo de risco físico em larga escala. Mas o debate americano funciona como termômetro de contrato. Fornecedores globais de IA, a própria Anthropic incluída, tendem a espelhar no mundo todo os compromissos de transparência e aviso de incidente que assumem nos Estados Unidos.

Para quem está avaliando ou renovando contrato com um laboratório de IA, três perguntas valem mais do que acompanhar o resultado da disputa no Congresso americano:

• O fornecedor publica um framework de segurança próprio, como o Advanced AI Framework da Anthropic, e o atualiza publicamente?
• O contrato prevê prazo e canal específico para aviso de incidente de segurança, nos moldes dos quinze dias da SB 53, mesmo fora dos Estados Unidos?
• A due diligence interna cobre falhas de configuração como as que permitiram os quatro incidentes do verão, erro humano em ambiente de teste, não só cenários de ficção científica sobre modelo fora de controle?

O Congresso americano só retoma a pauta depois das eleições de meio de mandato, em 3 de novembro de 2026, e vai decidir entre esse rascunho da Anthropic, o FRONTIER Act depositado em julho e um projeto ainda em negociação no Senado. Nenhum parrainage nem calendário formal foi divulgado para o texto da Anthropic até esta reportagem. Até lá, a régua que vale para qualquer empresa que opera modelos de fronteira continua sendo a prática voluntária do fornecedor, não uma lei federal.

Fonte: ActuIA