Juiz identifica comandos ocultos para influenciar IA em processo e determina investigação

Um juiz de Rondônia identificou comandos ocultos inseridos em uma petição judicial para influenciar sistemas de inteligência artificial. A prática, conhecida como prompt injection, resultou em multa por litigância de má-fé e no encaminhamento do caso à OAB e aos setores de tecnologia do Tribunal de Justiça para investigação e adoção de medidas de segurança.

Compartilhe
Juiz identifica comandos ocultos para influenciar IA em processo e determina investigação

Juiz de Rondônia identifica comandos ocultos para influenciar inteligência artificial em processo judicial, aplica multa por má-fé e pede investigação de advogados.

Um juiz da 2ª Vara Cível de Porto Velho, em Rondônia, determinou a investigação da atuação de advogados após identificar a inserção de comandos ocultos direcionados a sistemas de inteligência artificial em uma petição judicial. O caso foi revelado pelo g1.

Segundo a decisão, os comandos estavam escondidos em texto com fonte reduzida e cor branca sobre fundo branco, após a assinatura dos advogados. As instruções buscavam influenciar eventuais ferramentas de IA utilizadas na análise do processo, orientando o reconhecimento de supostas irregularidades da operadora de saúde e reforçando argumentos favoráveis ao autor da ação.

O magistrado classificou a prática como uma forma de “prompt injection”, técnica utilizada para alterar o comportamento de sistemas de inteligência artificial por meio de instruções ocultas. Na avaliação do juiz, a conduta representa risco à integridade do processo judicial e à confiabilidade de análises automatizadas.

A ação foi movida por um beneficiário de plano de saúde que buscava a cobertura de procedimentos cirúrgicos reparadores após cirurgia bariátrica. Durante a tramitação, a própria operadora informou ter identificado os comandos inseridos no documento.

Diante da situação, o juiz reconheceu a ocorrência de litigância de má-fé e aplicou multa equivalente a 10% do valor atualizado da causa. Também determinou o envio de ofícios às seccionais da Ordem dos Advogados do Brasil (OAB) em Rondônia, São Paulo e Paraná para apuração da conduta profissional dos envolvidos.

Além disso, o caso foi encaminhado aos setores de tecnologia e inteligência do Tribunal de Justiça de Rondônia para avaliação de medidas que reforcem a segurança dos sistemas judiciais diante de tentativas de manipulação por meio de inteligência artificial.

Background newsletter

Inscreva-se na nossa newslleter

Juiz identifica comandos ocultos para influenciar IA em processo e determina investigação | AI Brasil