Manipulação de IA no TRT4: advogadas multadas em R$ 84 mil por prompt injection em petições

Duas advogadas de Parauapebas, no Pará, foram multadas em R$ 84,25 mil após tentarem manipular o sistema de inteligência artificial que processa petições eletrônicas. O ataque, detectado recentemente, buscava alterar a classificação de urgência de processos trabalhistas para gerar resultados favoráveis às clientes representadas.

O episódio expõe vulnerabilidades em sistemas de processamento automatizado de petições. A tentativa de manipulação usou comandos ocultos para interferir na análise de prioridade feita pela IA. A multa foi aplicada com base em infração ética e tentativa de obstrução da justiça por meio tecnológico.

O caso acendeu alerta no Conselho Nacional de Justiça (CNJ) sobre a necessidade de protocolos de segurança para IA em tribunais. A OAB nacional promove workshops sobre uso responsável de IA após o incidente. “Os advogados precisam entender que a ética deve prevalecer, principalmente quando lidamos com a automação das decisões judiciais”, disse o especialista Dr. João Alves durante os workshops. Dados do CNJ mostram que o uso de tecnologias no Judiciário cresceu mais de 30% desde 2020.

Como funcionou a tentativa de fraude: comandos ocultos na petição

O que é prompt injection e por que não é ‘hacking’

Prompt injection não invade sistema. Manipula o input que a IA recebe.

A técnica expõe uma falha de design: sistemas de IA generativa processam texto sem distinguir comando de conteúdo. Quando um modelo recebe uma petição, trata tudo como dado legítimo — incluindo instruções disfarçadas que alteram o comportamento da ferramenta. Não há senha quebrada, firewall violado ou código malicioso. O ataque acontece na camada de linguagem natural.

A estratégia usada pelas advogadas

As advogadas de Parauapebas inseriram comandos ocultos na petição. O objetivo: fazer o sistema reclassificar o processo como “urgente” e ganhar prioridade na fila de julgamento. Os comandos tentavam sobrescrever a análise automática de prioridade.

O sistema Galileu processa petições no TRT4. Não havia filtro que removesse comandos embutidos antes da análise. A IA lia o texto completo — incluindo as instruções ocultas — e processava tudo para classificação.

«A inteligência artificial precisa de limites éticos claros», disse João Alves, especialista em direito digital.

Por que o sistema do TRT4 detectou a fraude — e outros tribunais podem não detectar

O sistema de auditoria que pegou o ataque

O TRT4 mantém logs de todas as decisões da IA que classifica petições. Cada reclassificação fica registrada. Foi esse registro que expôs o padrão suspeito.

Analistas de segurança notaram múltiplas petições reclassificadas como urgentes em curto intervalo. Todas vinham do mesmo escritório. A concentração em curto intervalo do mesmo escritório despertou suspeita.

Os logs permitiram comparar versões. A equipe técnica isolou as petições, extraiu o texto original e identificou os comandos ocultos inseridos pelas advogadas. Sem auditoria centralizada, o ataque teria passado despercebido até gerar efeitos práticos nos processos.

Tribunais sem camada de proteção equivalente

Nem todos os tribunais brasileiros possuem auditoria de logs equivalente — muitos sistemas de IA judiciária operam sem rastreamento centralizado de decisões. A classificação acontece, mas o histórico não fica acessível para análise posterior.

O CNJ alertou que a falta de transparência em decisões de IA prejudica a detecção de fraudes. Sem logs imutáveis, investigações futuras ficam comprometidas — não há como reconstruir o que a IA decidiu nem quando.

Especialistas recomendam que todos os tribunais implementem logs imutáveis e revisão periódica de padrões anômalos. A recomendação inclui revisão periódica de classificações e alertas automáticos para concentrações suspeitas.

O caso de Parauapebas revelou a importância da auditoria. Mostrou que a defesa existe — mas só onde foi implementada. Nos demais tribunais, a vulnerabilidade permanece aberta.

Implicações legais: precedente jurídico e enquadramento da infração

Como a infração foi enquadrada

O tribunal classificou a tentativa como obstrução da justiça por meio tecnológico. A decisão considerou que manipular IA para alterar prioridade de processos busca vantagem indevida no sistema judiciário.

A multa de R$ 84,25 mil foi calculada com base no dano potencial. A gravidade da conduta pesou mais que o resultado — a tentativa foi detectada antes de gerar impacto real.

A infração foi enquadrada sob artigos de ética profissional da OAB e dispositivos da Lei de Acesso à Informação. A OAB sinalizou que pode incluir “manipulação de IA” como infração ética específica em código de conduta profissional.

Precedente jurídico para crimes de manipulação de IA

O caso estabelece precedente: manipulação de IA em sistemas públicos pode ser enquadrada como crime de fraude eletrônica ou obstrução da justiça. É o primeiro episódio documentado no Judiciário brasileiro.

O tribunal considerou que a intenção de manipular o resultado configura infração, independente de invasão técnica.

“Os advogados precisam entender que a ética deve prevalecer, principalmente quando lidamos com a automação das decisões judiciais”, disse Dr. João Alves, especialista consultado pela OAB.

O precedente pressiona tribunais a revisar políticas de uso de IA. A questão central: comandos ocultos em petições são tentativa de fraude ou apenas “uso criativo” de tecnologia?

Recomendações do CNJ e novo cenário de segurança para IA no Judiciário

Diretrizes de segurança em discussão no CNJ

O Conselho Nacional de Justiça criou uma força-tarefa para elaborar diretrizes nacionais de segurança para IA no Judiciário.

As recomendações em estudo incluem auditoria obrigatória de logs — toda interação com sistemas de IA ficará registrada. Também preveem sanitização de inputs antes do processamento, com bloqueio automático de comandos suspeitos. Testes de robustez virão antes de qualquer implementação em produção. Treinamento de operadores completará o pacote, focado em identificar tentativas de manipulação.

A proposta mais polêmica está na mesa: certificação de segurança para sistemas de IA judiciária. Apenas plataformas auditadas por terceiros poderão processar petições. Tribunais terão de manter registros de decisões de IA — garantia de rastreabilidade em investigações futuras.

Impacto na adoção de IA em outros tribunais

O caso de Parauapebas acelerou protocolos que estavam em discussão há anos. Antes visto como overhead burocrático, segurança tornou-se prioridade institucional após o episódio.

A mudança tem custo. Especialistas alertam que camadas de proteção podem desacelerar o processamento. O CNJ terá de balancear velocidade e blindagem — dilema que outros tribunais já enfrentam na Europa.

Associações de classe responderam rápido. A OAB está promovendo workshops sobre uso responsável de IA. “Os advogados precisam entender que a ética deve prevalecer, principalmente quando lidamos com a automação das decisões judiciais”, disse João Alves, especialista consultado pela entidade.

Vulnerabilidades mais amplas: por que IA no Judiciário é alvo fácil

O Judiciário brasileiro adota IA em ritmo acelerado, mas investe pouco em blindagem. Dados do CNJ mostram crescimento de mais de 30% na utilização de tecnologias desde 2020, porém sem estrutura de segurança correspondente. Tribunais implementam soluções de terceiros — plataformas como o Galileu — sem auditar código ou rodar testes de vulnerabilidade antes do deployment.

Prompt injection é apenas a ponta do iceberg. Sistemas judiciais enfrentam outras ameaças: envenenamento de dados (treinar a IA com petições falsas ou manipuladas) e evasão adversarial (textos projetados para enganar o modelo sem deixar rastro óbvio). Cada tribunal usa ferramenta diferente, dificultando compartilhamento de boas práticas e detecção de padrões de ataque em escala nacional.

Outro problema: operadores de IA em tribunais raramente têm treinamento em segurança cibernética. Anomalias ficam invisíveis. Um prompt injection bem disfarçado passa despercebido até gerar resultado absurdo — aí é tarde.

A pressão por eficiência acelera o risco. Tribunais querem processar mais petições em menos tempo. Quando segurança compete com velocidade, segurança perde. Cortar camadas de auditoria economiza ciclos de processamento. O caso das advogadas de Parauapebas expôs exatamente isso: nenhuma validação impediu a tentativa. O sistema processou a petição manipulada, confiando que o prompt era legítimo.

Perspectivas: o que muda para advogados e tribunais

Mudanças esperadas para advogados

A tentativa de manipulação gerou alerta imediato na OAB. Advogados serão notificados sobre riscos de responsabilidade criminal em casos de prompt injection. A entidade já promove workshops sobre uso responsável de IA no trabalho jurídico.

Escritórios de advocacia podem precisar auditar seus próprios sistemas de geração de petições. O objetivo: garantir que documentos não contenham comandos ocultos ou instruções que tentem burlar análise automatizada. Dr. João Alves, especialista em direito digital, foi direto: «Os advogados precisam entender que a ética deve prevalecer, principalmente quando lidamos com a automação das decisões judiciais».

Investimentos que tribunais precisarão fazer

Tribunais investirão em ferramentas de detecção de anomalias em IA. O custo operacional tende a subir — sistemas como o Galileu precisarão de validação adicional antes de processar petições.

Pode haver pressão por maior transparência: tribunais divulgando quando a IA rejeita ou reclassifica documentos, permitindo recurso humano.

O CNJ registrou crescimento de 30% no uso de tecnologias no Judiciário desde 2020. A digitalização exigirá investimento em blindagem contra manipulação.