Além da inserção de comandos, advogados usam até ações fakes geradas por IA

Desde o ano passado, decisões do TJMS (Tribunal de Justiça de Mato Grosso do Sul) tem apontado o uso de citações falsas em peças jurídicas. Em ações diferentes, advogados usaram supostas decisões judiciais para tentar defender teses, mas magistrados verificaram que os julgamentos citados não existiam ou tratavam de assuntos diferentes.

No meio jurídico, esse tipo de decisão usada como exemplo é chamado de jurisprudência. É quando uma parte cita entendimentos anteriores da Justiça para tentar convencer o juiz ou desembargador a seguir a mesma linha. O problema é que, nos casos analisados, parte dessas decisões era inexistente.

• Leia Também
• Advogados que admitiram "pegadinha" para juiz defendem "Escobar Brasileiro"
• Advogados admitem que usaram IA para tentar enganar Justiça em 28 ações

Em um dos processos, o juiz registrou que “a utilização deliberada de jurisprudência inexistente configura litigância de má-fé, (...). A prática de manipulação de precedentes enseja comunicação à OAB para apuração de infração ético disciplinar”.

Litigância de má-fé é o termo usado quando uma das partes age de forma desleal no processo, tentando enganar a Justiça, atrasar o andamento da ação ou obter vantagem indevida. Já precedentes são decisões anteriores que servem como referência para casos semelhantes. Quando esses precedentes são inventados, a peça pode induzir o Judiciário a erro.

A ação era referente ao ITCMD (Imposto de Transmissão Causa Mortis e Doação), tributo cobrado em casos de herança ou doação. O advogado dos autores usou, para tentar convencer o juiz, a citação de decisões supostamente do STJ (Superior Tribunal de Justiça), do TJSP (Tribunal de Justiça de São Paulo) e do próprio TJMS. Ao analisá-las, foi verificado que as decisões eram inventadas e que os números dos processos citados não existiam ou tratavam de assuntos diferentes.

Diante disso, o magistrado da 1ª Vara de Bonito rejeitou a argumentação e afirmou não haver como “conferir validade à argumentação criada pela IA sem supervisão humana e, sobretudo, sem nenhum respaldo na realidade jurídica”.

Em outro processo, um procurador municipal de Mato Grosso do Sul entrou com recurso contra a decisão de primeiro grau que havia condenado a prefeitura à obrigação de revisar seu Plano Diretor. O Plano Diretor é a lei que orienta o crescimento urbano do município e define regras para ocupação, uso do solo e organização da cidade.

No embargo, o defensor municipal usou o sistema automatizado para tentar convencer o desembargador José Eduardo Neder Meneghelli a reformar a sentença.

Identificada a situação, Meneghelli destacou no acórdão que a peça trazia “julgado inexistente atribuído a magistrado que nunca integrou o TJMS, configurando tentativa de induzir o juízo a erro por meio da utilização de conteúdo fictício, aparentemente gerado por inteligência artificial”.

O alerta não se limita às decisões inventadas. Como o Campo Grande News já mostrou, o chamado prompt injection também chegou aos processos judiciais em Mato Grosso do Sul. Em levantamento anterior, a reportagem identificou que apenas um escritório de advocacia usou o recurso em 28 petições.

Prompt injection é a inclusão de um comando escondido dentro de um documento. A ideia é tentar manipular uma ferramenta de inteligência artificial que venha a ler aquele conteúdo. Em uma situação de risco, se um gabinete judicial usar IA para resumir ou analisar uma petição sem conferência humana, esse comando oculto pode interferir no resultado da análise.

O presidente da Comissão de Direito Digital e Inteligência Artificial da OAB/MS (Ordem dos Advogados do Brasil, Seccional Mato Grosso do Sul), Raphael Chaia, comentou que o uso de ferramentas tecnológicas de forma a fraudar processos deve ser comum. Ele afirma que há possibilidade de uma sentença judicial ser definida de forma errônea se a análise for feita por tecnologia generativa em caso de prompt injection.

“Se o juiz ou analistas e assessores usarem IA em 100% do processo, a IA vai ler o comando e atender o comando que está lá. Isso pode levar a um desfecho equivocado porque a estrutura da sentença, ou rascunho ou outro despacho vai ser conforme a programação do prompt”, afirma.

Ele analisa que, se houver magistrados que se fiem na inteligência artificial, isso pode criar um ponto de vulnerabilidade na análise dos processos e decisões. Chaia destaca, entretanto, que caso haja esse tipo de atuação no Judiciário, ocorre em escala reduzida.

Em relação aos advogados, o presidente da comissão avalia que eles apostam que o sistema judicial não vai identificar a fraude.

“Se as etapas do processo são encaminhadas 100% por IA, o advogado ganha a causa, consegue a sentença que ele quer. Mas se a fraude é identificada, o advogado pode responder em ação ético-disciplinar da OAB, ter o registro suspenso ou cassado”.

Até o momento, segundo Chaia, a Ordem não recebeu denúncia de inserção de comandos em petições para analisar, e o secretário de ética da categoria, Luiz Renê, sustentou que a instituição vai atuar sempre que comunicada oficialmente.

Em nota oficial, a OAB/MS afirmou que, se receber denúncias dessa vertente, a entidade “adotará as medidas éticas disciplinares correspondentes, sempre respeitando o direito à ampla defesa e ao contraditório”.