O Conselho Nacional de Justiça (CNJ) vai discutir nesta quarta-feira medidas para reduzir riscos ligados ao uso de inteligência artificial nos tribunais. O foco é um tipo de manipulação conhecido como “prompt injection”.
O termo define tentativas de enganar sistemas de IA por meio de comandos ocultos inseridos em petições, documentos ou textos processuais. Esses comandos podem induzir a ferramenta a produzir respostas distorcidas ou favorecer uma das partes.
O tema ganhou força após casos registrados na Justiça do Trabalho e no Superior Tribunal de Justiça (STJ). Em um deles, houve tentativa de manipular a ferramenta “Galileu”, usada para automatizar a leitura de processos trabalhistas.
Na prática, o “prompt injection” funciona como uma instrução escondida dentro do documento. Um usuário poderia tentar inserir frases para levar a IA a ignorar argumentos, alterar interpretações ou priorizar determinadas informações.
A preocupação do CNJ é evitar que ferramentas usadas por juízes e servidores sejam influenciadas de forma invisível. O órgão avalia editar uma nota técnica ou resolução específica sobre o assunto. Entre as medidas em estudo estão filtros para detectar comandos maliciosos antes que eles cheguem aos sistemas de inteligência artificial e mecanismos para verificar se houve interferência indevida nas respostas produzidas pela IA.
Segundo o conselheiro Rodrigo Badaró, presidente do Comitê Nacional de Inteligência Artificial do Judiciário, o uso de IA já faz parte da rotina dos tribunais. Dados preliminares do CNJ indicam que entre 75% e 80% de juízes e servidores usam ferramentas do tipo no trabalho.
A Resolução nº 615 de 2025 já prevê regras para uso seguro da tecnologia, como rastreabilidade, auditoria e supervisão humana obrigatória. O CNJ também estimula o uso de ferramentas institucionais em vez de plataformas privadas. Para o órgão, a inteligência artificial deve permanecer no Judiciário, mas precisa operar com mecanismos capazes de garantir segurança jurídica e evitar manipulações ocultas.
