CNJ aprova Nota Técnica com orientações a tribunais sobre medidas contra manipulação de sistemas de IA

A adoção de medidas para preservar a segurança jurídica no contexto de uso de Inteligência Artificial na Justiça é o foco da nota técnica aprovada na 9ª Sessão Ordinária de 2026 do Conselho Nacional de Justiça (CNJ), realizada em 9 de junho. As orientações têm o objetivo de reduzir os riscos de interferência de comandos escondidos inseridos em arquivos processuais – conhecidos como prompt injection – que podem comprometer o funcionamento de sistemas de IA adotados pelos tribunais.

De acordo com o conselheiro do CNJ Rodrigo Badaró, relator da nota e presidente do Comitê Nacional de Inteligência Artificial no Judiciário, as orientações demonstram que o CNJ está atento à segurança jurídica e às mudanças tecnológicas, além de estimular os tribunais a adotarem medidas nesse sentido. A proposta acompanha a manifestação técnica aprovada pelo Comitê Nacional sobre o uso de ferramentas para ampliar a prevenção e a resposta a tentativas de manipulação desses sistemas.

O presidente do CNJ e do Supremo Tribunal Federal (STF), ministro Edson Fachin, destacou a rapidez da resposta e com uma nota técnica para orientar os tribunais sobre a situação. “É importante pensar nesses avanços porque a tecnologia, apesar de trazer de trazer benefícios, também traz desafios”, enfatizou Fachin.

Atuação permanente

Entre as medidas previstas está o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (Proseg-IA), que cria uma frente permanente para lidar com riscos de manipulação no uso de IA em processos judiciais. A orientação é incorporar ao Proseg-IA requisitos de “ingestão segura” de documentos processuais, com preservação de metadados visuais e estruturais.

A proposta também indica a Plataforma Sinapse como solução nacional para a realização, consolidação e manutenção do inventário nacional e sistemas judiciais de IA e de sua exposição a riscos adversariais.

Confira a íntegra da Nota Técnica.