STJ abre inquérito sobre comandos ocultos de IA em processos judiciais

O Superior Tribunal de Justiça abriu investigação para apurar o uso de comandos ocultos em petições, técnica conhecida como "prompt injection", que tenta enganar os sistemas de inteligência artificial do Poder Judiciário. O caso ganhou repercussão nacional após tentativas de fraude na Justiça do Trabalho do Pará e também tem reflexos em Mato Grosso do Sul, onde um escritório de advocacia admitiu ter utilizado o mecanismo em 28 ações judiciais.

O procedimento consiste em inserir instruções invisíveis ao olho humano no meio do texto de recursos ou petições. Como os robôs do tribunal analisam os documentos para sugerir decisões ou resumir processos, a armadilha tenta forçar o sistema a ignorar as regras oficiais e dar parecer favorável a uma das partes.

• Leia Também
• Juiz multa ex-major Carvalho por processo com comando oculto de IA
• Após tentativas de manipular ações, TJ destaca que IA não tem poder decisório

De acordo com o presidente da corte nacional, ministro Herman Benjamin, todas as tentativas de manipulação estão sendo mapeadas para que os envolvidos respondam administrativa, civil e criminalmente.

O tribunal determinou a abertura de inquérito policial e procedimentos para ouvir os advogados responsáveis pelas peças suspeitas do Pará, além de ordenar que cada tentativa de burla seja registrada formalmente dentro do próprio processo para que os ministros possam aplicar penalidades.

A equipe técnica do tribunal informou que a inteligência artificial utilizada em Brasília possui mecanismos de proteção criados justamente para neutralizar esse tipo de interferência. O sistema opera com filtros que separam o conteúdo do documento das regras de operação da máquina, impedindo que ordens externas modifiquem os critérios de análise da inteligência artificial e revisando os resultados antes da entrega final para garantir a segurança dos dados.