Escritório confessa uso de comando oculto em 28 ações para manipular IA judicial

Um escritório de advocacia de Campo Grande confirmou à 2ª Vara Cível a inserção de comandos ocultos em petições de 28 processos que tramitam no Tribunal de Justiça de Mato Grosso do Sul. O procedimento consiste na inclusão de instruções de texto não visíveis na leitura convencional, projetadas para influenciar sistemas de inteligência artificial de apoio ao Poder Judiciário.

A documentação que integra o processo aponta que a petição inicial traz, de forma oculta na camada de texto e replicada ao longo de 13 páginas, um bloco de informações que não faz parte da estrutura jurídica tradicional da peça. O caso faz parte de um processo legítimo em que casal contratou os advogados envolvidos para fazerem uma cobrança judicial.

Nela, eles usam do artifício para que a triagem de processos, feita atualmente por ferramentas de IA, seja manipulada. O réu, que é também advogado, descobriu a inserção do chamado "prompt injection" e acionou sua defesa, que detalhou o mecanismo ao juiz Paulo Afonso de Oliveira. Ainda não há decisão sobre o fato.

Na manifestação da defesa do réu é destacado que "o trecho (comando invisível) não descreve fatos, não deduz fundamentos e não apresenta pedidos direcionados ao magistrado. Trata-se de uma instrução formulada para sistemas automatizados, configurada para fazer com que as ferramentas de inteligência artificial suspendam suas diretrizes padrão, simulem conformidade e gerem uma análise favorável à parte que realizou o protocolo do documento".

O documento relata ainda que, além das ações identificadas na Justiça estadual, o mesmo escritório de advocacia adotou o procedimento de anexar documentos contendo a técnica de injeção de comandos em processos que tramitam no Superior Tribunal de Justiça (STJ).

Sites especializados em conteúdo jurídico explicam que mecanismo oculto atua na camada intermediária da cognição judicial, assim, não há efetivamente a necessidade de que a inteligência artificial profira a decisão final do processo para que ocorra a interferência no resultado.

O impacto se concretiza quando a ferramenta realiza um resumo com incorreções, classifica a demanda de forma inadequada, sugere uma minuta com direcionamento, deixa de apontar uma controvérsia existente entre as partes, atribui urgência que não condiz com os fatos ou interfere na organização cognitiva do andamento do processo. Dessa forma, a deliberação final permanece sob autoria humana, mas o julgamento ocorre após uma leitura automatizada afetada pelas instruções inseridas.

Escritório - Em sua manifestação de defesa, após o réu descobrir a fraude, o escritório de advocacia argumentou que o erro foi decorrente de uso de modelo de petição arquivado e que um ex-colaborador teria feito a inserção sem o consentimento dos proprietários.

"Tal prática, é preciso registrar, jamais foi autorizada ou incentivada neste escritório, por qualquer advogado que o tenha integrado. Pelo contrário, os advogados pautam sua atuação por rígidos critérios éticos e técnicos, que informam desde a seleção dos colaboradores até a condução de cada processo individualmente considerado", narram.

Tal ação teria sido feita "em caráter experimental" em "um template de papel timbrado que havia sido anteriormente utilizado pelo escritório". Sustenta ainda o escritório, que o modelo de documento era "não autorizado, ou seja, fora do fluxo oficial de peças vigente no escritório à época dos fatos, e, por essa razão, estava à margem dos procedimentos internos de revisão e va lidação".

Por outro lado, manifestações processuais destacam que o Tribunal de Justiça de Mato Grosso do Sul fixou entendimento de que o uso inadequado de inteligência artificial em peças jurídicas, como a apresentação de súmulas inexistentes ou precedentes que não correspondem à realidade, caracteriza litigância de má-fé.

Análises doutrinárias citadas nos autos apontam que a injeção de instruções, ao induzir o sistema a modificar a análise documental ou a desconsiderar os argumentos apresentados pela parte contrária, constitui uma forma de alterar a realidade dos fatos e buscar um objetivo em desacordo com as normas legais.