Especialistas discutem uso de IA na gestão pública e no Judiciário

Assista ao episódio completo do Na Íntegra:

O advogado Celso Reic e o promotor de Justiça Douglas Teixeira foram os convidados do podcast “Na Íntegra”, do Campo Grande News, para discutir os impactos e desafios da inteligência artificial (IA) na gestão pública e no sistema de Justiça. A conversa abordou desde os avanços na automação de serviços públicos até os riscos de vieses em algoritmos e vazamento de dados sensíveis.

Especialista em cibersegurança e autor de livro sobre compliance e governança, Celso defende que a tecnologia pode ser uma aliada estratégica para prefeituras e câmaras municipais. Já Douglas, que atua no Ministério Público de Mato Grosso do Sul e é mestrando em Direito e Tecnologia pela Fundação Getúlio Vargas, destacou que a IA deve ser aplicada com responsabilidade e controle institucional.

“Hoje em dia, as pessoas ainda associam inteligência artificial apenas a ferramentas como o ChatGPT. Mas ela já está presente no Judiciário, nas prefeituras, nas secretarias, ajudando a automatizar desde ofícios até o controle de consumo de água em prédios públicos”, explicou Douglas. “O que falta é compreensão do funcionamento e das limitações desses sistemas.”

IA já é usada no Judiciário, mas com limitações - Segundo os convidados, o uso de IA no Judiciário brasileiro começou há anos com ferramentas de automação que organizam e classificam processos. “A primeira camada de IA aplicada ao Judiciário não é a generativa, como muitos imaginam. É aquela que cataloga, que organiza dados, que identifica padrões”, disse Celso. Ele lembrou da migração do sistema ESAJ para o EPROC e de como os próprios metadados dos processos são construídos com base em algoritmos.

Douglas pontuou que, embora esses sistemas sejam úteis, é preciso atenção para os riscos. “Muita gente acha que a IA é inteligente como nós. Mas não é. Ela apenas realiza análises estatísticas com base em bancos de dados. E, se esses dados tiverem vieses históricos, como racismo estrutural ou desigualdade de acesso, o algoritmo vai perpetuar isso.”

Riscos de decisões enviesadas e falta de contexto - Durante o programa, os especialistas citaram exemplos emblemáticos. Um deles foi o sistema Ross, desenvolvido nos Estados Unidos para auxiliar decisões judiciais e que passou a recomendar penas mais duras para pessoas negras por conta do histórico enviesado dos dados usados em seu treinamento.

“Não é que o algoritmo seja racista. Mas ele aprende com o que existiu. Se os dados históricos mostram que negros foram mais condenados, ele vai repetir esse padrão”, explicou Celso. Douglas complementou: “A IA não entende contexto. Ela apenas replica padrões. Por isso, toda aplicação precisa passar por depuração e supervisão humana.”

Eles também criticaram a tendência de antropomorfização — ou seja, atribuir características humanas às máquinas. “As pessoas querem dar nomes como Lucy, Laura... tudo para tornar a tecnologia mais agradável, mais humana. Mas é importante lembrar: ela não pensa como a gente”, disse Douglas.

Cidades brasileiras podem se beneficiar da tecnologia - Celso Reic desenvolveu uma tecnologia voltada especialmente a municípios, com foco em câmaras e prefeituras. “A ideia é automatizar processos burocráticos do dia a dia, como geração de ofícios, consultas à legislação e organização de fluxos internos. Tudo respeitando a LGPD (Lei Geral de Proteção de Dados) e instalado dentro do próprio órgão”, explicou. Segundo ele, o sistema permite que servidores tenham acesso rápido a informações e ferramentas sem depender de terceiros.

Ele destacou que a tecnologia pode aliviar a sobrecarga sobre servidores que, muitas vezes, não recebem capacitação adequada. “Tem gente trabalhando na administração municipal que nunca passou por treinamento. Às vezes o cidadão acha que o servidor não quer atender, mas o problema é que ele também não sabe como fazer”, afirmou.

Douglas compartilhou uma experiência do MPMS em que um software detectou um vazamento de água em um dos prédios da instituição a partir da análise dos padrões de consumo. “São soluções que parecem simples, mas fazem toda a diferença na gestão pública e no controle de gastos.”

Regulação e soberania sobre os dados - Outro ponto debatido foi a soberania sobre os dados públicos. Os convidados alertaram para o uso de plataformas externas, como o ChatGPT, para inserir informações sigilosas de processos ou documentos oficiais. “Se você coloca dados de um processo judicial num sistema hospedado fora do país, você está compartilhando uma informação que não é sua”, disse Celso. “Isso fere a soberania do Estado brasileiro.”

Douglas reforçou a necessidade de políticas públicas para garantir segurança e governança. “As big techs estão preocupadas em monetizar dados. Cabe ao Estado proteger os dados dos cidadãos. A Autoridade Nacional de Proteção de Dados (ANPD) precisa atuar cada vez mais nesse campo.”

Eles também comentaram sobre a diferença entre um processo realmente digital e um apenas digitalizado. “A gente ainda vê certidão em processo digital, o que é um absurdo. Isso mostra que a transformação digital está apenas no papel”, criticou Douglas.

Em comparação com países como Estônia e Singapura, onde serviços públicos são quase totalmente digitais, o Brasil ainda caminha lentamente. “O Programa Brasileiro de Inteligência Artificial (PIBIA) é um passo importante, mas ainda é tímido diante do que o país precisa”, avaliou Celso.

Mesmo assim, os dois se disseram otimistas. “Não dá mais para fugir da inteligência artificial. O gestor que não usar vai ficar para trás. Mas o uso tem que ser consciente, técnico e com responsabilidade pública”, disse Celso. “O Brasil tem potencial, tem gente qualificada e tem estrutura. Só precisa investir com seriedade”, completou Douglas.

Receba as principais notícias do Estado pelo Whats. Clique aqui para acessar o canal do Campo Grande News e siga nossas redes sociais.