Deepfakes ficam quase indistinguíveis e ameaçam provas em contratos e processos, alertam OpenAI e Meta

Especialistas da OpenAI e da Meta disseram nesta quinta-feira (15/10) que vídeos e áudios falsificados por inteligência artificial, os chamados deepfakes, estão cada vez mais difíceis de separar de conteúdo real. O alerta foi dado numa reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, acompanhada pela agência Reuters, segundo reportagem do g1.

O comitê discute desde 2023 como lidar com materiais fabricados por IA generativa (a tecnologia que cria imagem, vídeo e áudio a partir de um comando de texto) quando eles aparecem como prova em um processo. A preocupação não é exclusiva dos tribunais americanos: o mesmo tipo de arquivo que pode enganar um juiz pode enganar um perito contábil, um advogado que recebe uma gravação de cliente ou um gestor financeiro que autoriza um pagamento.

Quem trabalha com prova documental não pode mais confiar só no olho

Shira Anderson, consultora de políticas da OpenAI, foi direta sobre o limite da tecnologia atual.

As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las.

Shira Anderson, consultora de políticas da OpenAI

Devin Norder, diretor de gestão de produtos da Meta, foi além: segundo ele, os modelos de IA mais avançados já produzem conteúdo indistinguível de mídia autêntica para o olho humano, e isso exige pouco tempo e pouco dinheiro para ser feito. Para quem redige parecer, monta dossiê de due diligence ou junta gravação como prova em processo, isso muda o peso que se pode dar a um vídeo ou um áudio sozinho, sem outro elemento que o sustente.

Os tribunais americanos ainda veem poucos casos, mas o volume sobe

Uma pesquisa do Centro Federal do Judiciário dos EUA, órgão de pesquisa do Judiciário americano, divulgada em março de 2026, mostrou que apenas 15 dos 931 juízes consultados já haviam enfrentado um caso em que uma das partes contestou uma prova por suspeitar de deepfake. O número é baixo, mas o juiz federal Jesse Furman, que preside o comitê, reconhece que a tendência é de alta.

Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo.

Jesse Furman, juiz federal em Manhattan

No Brasil não existe uma pesquisa equivalente feita por algum órgão de controle do Judiciário sobre o tema, ao menos não citada na reportagem. Mas o raciocínio vale igual: se o custo de produzir um deepfake convincente caiu, a chance de ele aparecer num processo trabalhista, numa disputa societária ou num inventário também sobe, mesmo que o volume de casos registrados ainda seja pequeno.

Para o contador, o risco mais imediato é o golpe do áudio do chefe

Antes de chegar a um tribunal, o deepfake já ameaça a rotina de quem autoriza pagamento. A fraude conhecida informalmente como golpe do presidente, em que alguém se passa por diretor ou sócio pedindo uma transferência urgente, ganha outro nível quando a voz do golpista é clonada com realismo. Como Norder descreveu, produzir esse áudio não exige tempo nem dinheiro relevante.

Na prática, isso significa que um escritório de contabilidade ou um setor financeiro não pode mais tratar um áudio de WhatsApp ou uma ligação como confirmação suficiente para liberar um PIX ou uma transferência fora do padrão. Alguns cuidados ajudam a reduzir a exposição:

• Confirmar qualquer pedido de pagamento incomum por um segundo canal já conhecido, como ligação para o número salvo do sócio, nunca para o número de onde veio o pedido.
• Manter uma política escrita de dupla aprovação para transferências acima de um valor definido, independentemente de quem peça.
• Desconfiar de urgência extrema: é o gatilho mais comum tanto no golpe tradicional quanto no reforçado por IA.
• Registrar e guardar o áudio ou vídeo suspeito, sem apagar, para eventual perícia.

Para o advogado, a prova digital exige mais do que juntar o arquivo aos autos

Se antes um vídeo ou uma gravação de áudio praticamente falava por si num processo, o alerta da OpenAI e da Meta reforça que essa prova pode ser contestada, e a parte contrária pode pedir perícia técnica para atestar a autenticidade. Isso tende a encarecer e alongar processos em que essa prova é central, como disputas trabalhistas com gravação de conversa, processos de família com áudio de WhatsApp ou casos de assédio com print e vídeo.

Uma saída que já é praticada no Brasil é a ata notarial, documento lavrado em cartório que registra o que o tabelião constatou numa tela, numa página ou num arquivo, com data e hora certas. Ela não garante que o conteúdo original seja verdadeiro, mas documenta de forma oficial o momento em que aquele material existia daquela forma, o que ajuda a reconstituir a cadeia de custódia caso a autenticidade seja questionada depois.

As leis de marca d'água existem, mas não resolvem o problema sozinhas

Na Califórnia e na União Europeia já há legislação exigindo marca d'água digital em conteúdo gerado por IA, um sinal incorporado ao arquivo para indicar sua origem. O Brasil ainda não tem uma lei equivalente específica para esse tipo de marcação. Mesmo onde a exigência já existe, Anderson foi clara sobre o limite dela.

Minha impressão é que isso certamente continuará melhorando. Não acho que algum dia será à prova de falhas.

Shira Anderson, consultora de políticas da OpenAI

Como cada empresa usa seu próprio sistema de marcação, não há um verificador único e universal que confirme a autenticidade de qualquer arquivo. Isso significa que, na prática de um escritório, não dá para terceirizar a checagem para um selo técnico: a prudência de pedir origem, contexto e corroboração continua sendo o filtro mais confiável disponível hoje.

O que ainda não tem resposta

O comitê americano debate o tema há três anos e ainda não chegou a uma regra definitiva sobre como tratar prova suspeita de ser deepfake dentro do processo. Não há, até esta reportagem, uma data prevista para uma norma final nos Estados Unidos, nem uma discussão equivalente formalizada no Judiciário brasileiro especificamente sobre deepfake como prova documental. Para quem assina parecer, autentica documento ou libera pagamento, a régua prática, por enquanto, é tratar todo vídeo e áudio sensível como algo a confirmar por mais de uma via, não como prova que se basta sozinha.

Fonte: g1 Tecnologia