CNJ aprova ato normativo que regulamenta uso da IA no Judiciário

CNJ aprovou, nesta terça-feira, 18, ato normativo que regulamenta o uso de inteligência artificial no Judiciário. A medida visa estabelecer diretrizes claras para a implementação e utilização de tecnologias no sistema judicial.

O texto foi apresentado, inicialmente, em sessão realizada no último dia 11 de fevereiro e relatado pelo conselheiro Bandeira de Mello, que se despede do CNJ nesta sessão.

• Confira a íntegra da resolução.

A norma detalha regras de governança, auditoria e supervisão humana para evitar riscos como vieses discriminatórios e decisões automatizadas sem controle.

Confira alguns detalhes abaixo.

Governança e transparência

A resolução cria o Comitê Nacional de Inteligência Artificial do Judiciário, responsável por fiscalizar e orientar o desenvolvimento e o uso dessas tecnologias.

Os tribunais deverão manter auditoria e monitoramento contínuos, assegurando que os sistemas de IA sigam padrões éticos e legais.

Além disso, será obrigatória a publicação de relatórios sobre o uso dessas ferramentas, promovendo a transparência para advogados, defensores públicos e demais atores do sistema de justiça.

Proibições e restrições

Entre as proibições expressas na resolução, está o uso de IA para prever crimes com base em características pessoais ou comportamentais.

Também fica vedado o emprego de sistemas para classificar cidadãos conforme sua condição social ou emocional para fundamentar decisões judiciais.

O reconhecimento facial para detectar emoções também foi barrado, diante do risco de discriminação e violação de privacidade.

Supervisão humana e capacitação

Outro ponto de destaque é a obrigatoriedade da supervisão humana sobre todas as decisões judiciais que utilizem IA.

Os sistemas poderão atuar como suporte à magistratura, mas nunca substituir a avaliação final de um juiz.

Para garantir o uso correto dessas ferramentas, tribunais e escolas da magistratura oferecerão treinamentos regulares para magistrados e servidores, capacitando-os para lidar com os desafios e riscos da automação.

Proteção de dados e segurança

A resolução também reforça normas para proteger informações sensíveis, adotando os princípios de privacy by design (proteção de dados desde a concepção) e privacy by default (proteção por padrão).

Os dados usados para treinar modelos de IA deverão ser anonimizados sempre que possível e provenientes de fontes seguras. Além disso, as soluções devem permitir auditoria e monitoramento para evitar usos indevidos.

Expectativas

Com a regulamentação, o CNJ busca equilibrar inovação e segurança jurídica, permitindo que a IA seja utilizada como uma ferramenta para agilizar processos sem comprometer direitos fundamentais.

A resolução prevê ainda um sistema de classificação de riscos, que determinará o nível de fiscalização conforme o impacto potencial da tecnologia utilizada.

Resolução

A minuta apresentada ao plenário do CNJ é o resultado dos trabalhos realizados pelo GT ao longo de um ano e que incluíram a realização de uma audiência pública de três dias para debate do tema.

"Ninguém quer ser julgado por um robô, e a normativa proposta não permitirá isso. Será, em verdade, uma ferramenta para auxiliar o magistrado na sua tomada de decisão", afirmou o relator.

Segundo Bandeira de Mello, soluções de IA poderão ajudar o juiz a formular perguntas em audiências, a detectar contradições em depoimentos, a perceber que sua decisão contraria precedente relevante ou entendimento de seu tribunal.

"Mas não vão subtrair do magistrado incumbido da jurisdição a ampla cognição do processo e sua possibilidade de proferir a decisão mais justa em cada caso concreto", detalhou.

Ao justificar o voto pela aprovação da minuta, ele defendeu que o instrumento normativo "fortalecerá a prestação jurisdicional, promovendo uma Justiça mais moderna, eficiente e segura, em consonância com os avanços tecnológicos e as demandas da sociedade contemporânea".

Proteção de direitos fundamentais 

A regulamentação tem como principal objetivo garantir os direitos fundamentais das pessoas que recorrem ao sistema judicial, promovendo inovação e eficiência sem comprometer a segurança, transparência, igualdade e ética, além de resguardar a autonomia dos tribunais.  

Um dos momentos-chave da discussão foi a audiência pública realizada entre 25 e 27 de setembro de 2024, onde foram debatidos temas como governança, transparência, regulamentação, impacto da IA na tomada de decisões judiciais, privacidade, segurança, desafios éticos e seus reflexos nos direitos fundamentais.

Durante o evento, também foi lançada a pesquisa "O uso da Inteligência Artificial Generativa no Poder Judiciário Brasileiro".  

De acordo com o levantamento, quase metade dos magistrados e servidores que responderam ao diagnóstico já utilizam ferramentas de IA nos tribunais. No entanto, mais de 70% dos participantes relataram que fazem uso desses recursos apenas de forma ocasional.

Apesar da baixa frequência, há um percentual relevante de profissionais que utilizam a tecnologia em suas atividades no tribunal, incluindo 27% dos magistrados e 31% dos servidores.