MPMS recomenda supervisão humana no uso de Inteligência Artificial em processos

O Ministério Público de Mato Grosso do Sul (MPMS) recomendou que promotores e procuradores adotem rigorosa supervisão humana no uso de ferramentas de IA (Inteligência Artificial), garantindo que a palavra final seja sempre da equipe técnica ou do próprio membro da instituição. A orientação também prevê o uso de prompts defensivos, comandos de segurança colocados pelo usuário legítimo para mitigar o risco de manipulação por instruções ocultas em documentos processuais.

A recomendação foi publicada nesta quinta-feira (11) no Diário do MPMS e ocorre em meio à repercussão de casos divulgados pelo Campo Grande News, nos quais comandos ocultos apareceram em peças processuais. Em um deles, o STJ (Superior Tribunal de Justiça) recebeu ao menos nove pedidos de recurso de um escritório de advocacia de Campo Grande com tentativa de influenciar sistemas de IA usados na leitura ou triagem de documentos.

• Leia Também
• TJ reforça “defesas” e ferramenta alerta juízes sobre manipulação com IA
• Para desembargador, pena branda traz risco de “crime compensa” em fraude com IA

Assinada pelo corregedor-geral Helton Fonseca Bernardes, a recomendação orienta os membros do MPMS a identificar, prevenir e reprimir a chamada prompt injection. A técnica consiste na inserção deliberada de comandos ocultos em documentos, com o objetivo de alterar indevidamente o comportamento de sistemas de IA.

A prompt injection é descrita como manipulação dolosa, que pode ocorrer por meio de texto invisível, caracteres de largura zero, metadados de arquivos ou código HTML. A prática, segundo a Corregedoria-Geral, pode induzir a ferramenta a omitir fatos, favorecer uma tese ou classificar incorretamente um caso.

A recomendação também conceitua o modelo HITL (human-in-the-loop), como protocolo em que a tecnologia atua apenas como assistente. Nesse formato, a leitura crítica, a validação integral e a decisão final permanecem obrigatoriamente nas mãos de uma pessoa. A diretriz veda a delegação decisória ou valorativa à IA, especialmente em análise de processos, elaboração de minutas e resumos de documentos.

Outro ponto é a vedação ao uso de comandos maliciosos em peças do próprio Ministério Público. A orientação é para que membros, assessores e equipes técnicas não utilizem qualquer artifício de ocultação de texto, codificação dissimulada ou comando subliminar para manipular a interpretação automatizada por sistemas de IA de terceiros ou do Poder Judiciário.

A Corregedoria-Geral também recomenda que, ao submeter peças processuais de terceiros à análise por IA, os membros do MPMS adotem prompts defensivos. A finalidade é orientar o sistema a ignorar ordens ocultas ou externas eventualmente embutidas nos documentos analisados.

As justificativas da recomendação aparecem nos considerandos do ato. A Corregedoria-Geral lembra que já havia editado orientação anterior, em 2025, sobre uso ético e seguro de IA no âmbito do MPMS, exigindo aplicação criteriosa, supervisionada e fundamentada em análise humana. Agora, a nova recomendação mira vulnerabilidades e técnicas de fraude processual associadas ao avanço dessas ferramentas.

O documento afirma que a manipulação de sistemas de IA viola a lealdade e a boa-fé processual. A prática é tratada como possível litigância de má-fé, ato atentatório à dignidade da Justiça e, na esfera penal, crime de fraude processual. Para o MPMS, o risco é afetar a imparcialidade do processo e a confiabilidade das instituições.

Caso encontre indícios de manipulação intencional em peças processuais ou documentos dos autos, o membro do Ministério Público deve informar o juízo de forma destacada, indicando a localização, o teor do comando oculto e o autor da inserção. A recomendação também prevê pedido de sanções por litigância de má-fé, multa por ato atentatório à dignidade da Justiça, extração de cópias para apuração criminal e comunicação à OAB (Ordem dos Advogados do Brasil), quando o ato envolver profissional da advocacia.

A orientação ainda prevê verificação proativa de práticas reiteradas. Se o membro do MPMS tomar conhecimento, por notícia pública ou no curso de procedimento, de uso de prompt injection por determinada parte ou advogado, deverá verificar outros processos em que essa pessoa ou profissional apareça. Se houver repetição, a recomendação é agir imediatamente nos mesmos moldes previstos para os novos casos identificados.

A recomendação tem caráter orientativo, sem força vinculante, em respeito à independência funcional dos membros do Ministério Público.

Polêmica - O Campo Grande News divulgou caso em que petições com comandos ocultos chegaram à Justiça de Campo Grande e chegaram a subir de instância, indo ao STJ. Ao menos nove peças encaminhadas ao tribunal por um escritório de Campo Grande continham prompt injection. O caso levou à abertura de investigação no STJ.

As petições teriam sido protocoladas entre julho e novembro de 2025. Em algumas delas, conforme a reportagem, o comando aparecia antes do conteúdo jurídico e orientava a IA a tratar o recurso como plenamente admissível, afastando obstáculos processuais como súmulas do próprio STJ.

O escritório Pelzl & Brandolis Advogados Associados admitiu, em nota, que petições protocoladas no STJ e em outras cortes continham comando oculto de prompt injection, mas negou fraude. A banca afirmou que o trecho teria sido inserido por um ex-funcionário, sem autorização dos sócios, no cabeçalho do papel timbrado usado internamente. Também sustentou que o caso seria falha de compliance documental, não tentativa deliberada de manipular decisões.