Regulação do uso de IA no Judiciário: O que vem pela frente?

"A era da IA ainda precisa definir princípios organizadores, conceitos morais ou a noção de aspirações e limitações." Henry Kissinger¹

1. A atualidade e importância do tema deste artigo

A revolução provocada pela disponibilização ao público em geral das primeiras soluções de inteligência artificial generativa e sua imensa capacidade de produzir material com base na análise de volumes extraordinários de dados completou dois anos² neste final de 2024.

Nesse meio-tempo, a sociedade debate sua utilização e seus efeitos no mercado de trabalho, na produção humana, no futuro da propriedade intelectual e, como não poderia deixar de ser, especula-se quais seriam seus impactos no Judiciário. Nos primeiros meses de seu mandato, ainda no final de 2023, o Presidente do Supremo Tribunal Federal e do Conselho Nacional de Justiça, Luís Roberto Barroso, criou um grupo de trabalho ("GT da IA") para atualizar a Resolução 332 do CNJ³, que traz diretrizes para o desenvolvimento de ferramentas de inteligência artificial no âmbito do Poder Judiciário. Editada em 2020, a norma acabou se tornando rapidamente defasada com o surgimento posterior da inteligência artificial generativa, cujo uso, evidentemente, não se encontrava regulado pela Resolução elaborada anos antes, e que se pretendia atualizar.

Neste artigo, aborda-se o relatório que o GT da IA deve entregar nesta semana, trazendo algumas prévias de suas conclusões e do teor da minuta que será submetida no início do ano que vem ao Plenário do CNJ. Portanto, pela atualidade e relevância do tema, mais do que pela autoria, estas breves considerações talvez mereçam leitura.

2. Uma singela homenagem ao Ministro Humberto Martins

Este trabalho foi originalmente concebido como parte da obra⁴ coordenada pelos professores Otávio Luiz Rodrigues Júnior e Jadson Santana de Sousa, intitulada "Direito Federal Interpretado - estudos em homenagem ao Ministro Humberto Martins", lançado no mesmo 10 de dezembro em que este artigo vem a lume.  Naturalmente, como é comum no mercado editorial, os trabalhos para a edição impressa precisariam ser entregues ainda no primeiro semestre, o que faria com que este artigo, pelo calendário já explicado, nasceria envelhecido ou superado. Por isso mesmo, optou-se por publicá-lo eletronicamente, a fim de que trouxesse conteúdo o mais up to date possível, integrando-se, porém, conceitual e emocionalmente, à obra que pretende fazer justa homenagem ao magistrado alagoano tão querido no meio jurídico.

O tema do artigo por meio do qual se pretende homenagear o ministro Humberto foi inspirado em palestra sobre inteligência artificial por ele proferida em encontro jurídico em Maceió⁵ e tem profunda conexão com sua atuação como Presidente do Superior Tribunal de Justiça e como Corregedor Nacional de Justiça.

No CNJ, foi justamente na gestão de Humberto Martins como corregedor e Dias Toffoli como presidente do Conselho, que se aprovou a primeira regulamentação nacional sobre o tema da IA, a Resolução 332 do CNJ, que justamente agora se está em vias de atualizar. No STJ, foi sob sua presidência que a principal solução de IA daquele tribunal superior, o Athos⁶, ganhou musculatura e passou a ser compartilhada com outros onze tribunais, auxiliando no exame da admissibilidade dos recursos especiais.

Sendo assim, registre-se nestas breves linhas a homenagem ao Ministro Humberto Martins, de forma a integrar-se este artigo àqueles do livro físico, prestigiando o trabalho incansável, sempre conduzido de forma leve e cordial, humana e leal, com o qual o magistrado tem atuado em sua trajetória e, nos últimos dezoito anos, no Tribunal da Cidadania.

3. O estágio da inteligência artificial no Judiciário brasileiro

Após ter lidado com a temática da tecnologia da informação ao longo de meus dois mandatos no CNJ, é possível afirmar que, em matéria do uso de tecnologia no Judiciário, o Brasil desponta - sem dúvidas - entre os países que mais têm inovado nas abordagens aos antigos e conhecidos problemas de morosidade processual e qualidade da jurisdição, por meio do uso de sistemas informatizados, integração de redes e bancos de dados e mecanismos tecnológicos de apoio à decisão e à gestão do Judiciário.

Se as primeiras soluções de IA estavam focadas em classificar ou indexar processos, colocando-os em "caixinhas" temáticas para viabilizar seu tratamento em "lotes" de processos semelhantes, após o surgimento da IA generativa, essa realidade mudou: os tribunais começaram a pesquisar e a investir em soluções de inteligência artificial que pudessem funcionar como apoio à decisão do magistrado, eventualmente elaborando minutas de sentenças com base nos seus entendimentos anteriores e até no estilo textual do magistrado.

O Assis⁷, desenvolvido pelo TJ do Rio de Janeiro, apresentado publicamente ao país no último dia 31 de outubro, parte de uma prévia configuração do perfil do usuário, com o upload de suas sentenças e decisões, que permite ao sistema individualizar as análises e minutas a serem elaboradas, adaptando-as aos entendimentos já sustentados pelo magistrado em decisões prévias, e eventualmente emulando seu estilo de escrita. Por meio de uma análise preliminar (rag) do acervo processual do tribunal (armazenada localmente em seus servidores, para não trafegar por rede externa), o sistema consegue ser ágil, seguro e entrega um produto de surpreendente qualidade.

Detalhe muito importante: o Assis deixa obrigatoriamente para o magistrado a formulação da parte dispositiva da decisão, que pode até ser minutada pelo sistema, desde que o magistrado decida e oriente a solução de IA a respeito de como cada um dos pedidos deve ser julgado. Isso claramente previne o maior receio que temos ao considerar a aplicação de IA no Judiciário: ninguém quer ser julgado por um robô. E o fluxo de produção do Assis não permite isso.

Por sua vez, o Galileu⁸, desenvolvido pelo TRT da 4ª Região (Rio Grande do Sul), avança na redação de análises e minutas próprias da Justiça do Trabalho, mas integrando adicionalmente uma abordagem muito feliz dos precedentes qualificados relacionados ao caso, o que permite ao juiz verificar tais precedentes e selecioná-los para referência em sua decisão, se entender que é o caso.

Na mesma linha, as soluções JurisprudênciaGPT e NatJusGPT⁹, ambas desenvolvidas pelo Tribunal de Justiça do Paraná, auxiliam na recuperação de julgados ou de entendimentos médicos na área de saúde e permitem a consulta ao sistema em linguagem natural ("prompt"), que responderá com base nos acórdãos e notas técnicas que a solução de IA possua em seu repositório de dados. Tudo isso cuidando adequadamente dos dados pessoais protegidos que evidentemente existem em lides que envolvem saúde e seus tratamentos.

Essas ferramentas ainda têm seu uso limitado a alguns usuários treinados, mas seus módulos vêm sendo progressivamente liberados para grupos maiores e em curto espaço de tempo  poderão rodar em outros tribunais que eventualmente queiram fazer uso das soluções para seus magistrados e servidores.

Por outro lado, nem todos os tribunais possuem os recursos humanos e financeiros necessários para o desenvolvimento e treinamento de sofisticadas - e caras - soluções de IA personalizadas. Para tanto, tem-se buscado fomentar um ambiente colaborativo onde os tribunais possam desenvolver soluções em parceria com outros tribunais ou players de outros Poderes.

Mas a verdade é que todas essas soluções de IA generativa têm sido implantadas sem um normativo nacional que dê as diretrizes específicas para o seu uso ou desenvolvimento. E ainda mais preocupante: os magistrados e servidores do Judiciário estão usando serviços de IA generativa por meio de assinaturas privadas, compartilhando prompts para elaborar ementas ou minutas de decisão, sem qualquer acompanhamento ou mesmo informação aos órgãos correicionais.¹⁰

É isso que se pretende resolver com a nova regulamentação do uso da IA nos tribunais brasileiros¹¹, tema deste artigo e do trabalho de atualização da Resolução 332, que se passa a narrar.

4. Principais novidades no projeto de atualização da Res. CNJ 332

Este artigo não pretende ser um relatório dos trabalhos do GT da IA no CNJ, mas julgo devido trazer três parágrafos sobre isso, até mesmo para prestar contas do trabalho desenvolvido ao longo de um ano, prazo conferido na portaria que o criou. Além das reuniões periódicas do colegiado de 30 membros, o grupo foi dividido em 3 subgrupos que debateram e desenvolveram o texto de atualização tendo por base o teor da resolução vigente. Essas 3 partes  foram sistematizadas pela profa. Laura Schertel Mendes, designada relatora-geral dos trabalhos, que apresentou um primeiro texto consolidado, que foi debatido internamente, modificado e finalmente submetido¹² à audiência pública durante os dias  25, 26 e 27 de setembro de 2024.

A audiência pública foi um capítulo à parte, com 34 painelistas, entre convidados e inscritos, além de 6 convidados internacionais. Os vídeos da audiência, disponíveis on-line¹³, somam mais de 15 mil visualizações únicas, o que já coloca essa audiência pública entre as 3 mais assistidas dentre todas já realizadas até hoje pelo CNJ, odemonstrando o amplo interesse no tema¹⁴. Recebemos contribuições escritas de trinta entidades da magistratura¹⁵ e especialistas, com ampla diversidade nas origens, práticas profissionais e formações. Algumas das contribuições superavam a centena de páginas.

Recebidas as contribuições, foi a hora de voltar para a prancheta e rever algumas das ideias anteriores, produzindo uma nova minuta que acolheu mais de 80% das sugestões que nos foram encaminhadas. Sempre que possível e compatível com as ideias do texto, buscou-se aproveitar a redação das emendas sugeridas, com ajustes pontuais. Quero acreditar que o texto final, a ser divulgado em poucos dias, atenderá a muitas das preocupações que foram externadas aos membros do GT da IA tanto na audiência pública quanto nas diversas oportunidades em que participamos de eventos para debater o tema.

Passemos, então, a relatar algumas das principais sugestões para uma nova regulamentação da inteligência artificial no Judiciário. Antes, porém, um disclaimer: embora as ideias que serão trazidas aqui sejam aparentemente majoritárias entre os integrantes do GT, como também entre os membros do CNJ, tudo que se tem até a data de publicação deste artigo é apenas uma proposta de regulamentação, passível portanto de amplas modificações até sua aprovação definitiva no Plenário do Conselho Nacional de Justiça.

Ao longo dos debates, as questões que mais levantaram discussões foram as seguintes:

O juiz brasileiro poderá usar IA em sua função jurisdicional

Nos Estados Unidos, na França, na Alemanha e na China, o Judiciário já está experimentando, em maior ou menor grau, assim como no Brasil, o uso da IA generativa na função jurisdicional do magistrado. No recente encontro do J-20 (o G-20 do Judiciário), no Rio de Janeiro¹⁶, diversos integrantes das Cortes Supremas dos países-membros relataram os avanços que vêm experimentando em seus países e tribunais com o uso da IA generativa.

O Brasil não deseja nem pode ficar para trás. A tônica dos trabalhos nunca foi a de proibir o uso da IA na área-fim do Judiciário, mas sim a de regular esse uso para minimizar os riscos envolvidos e, sobretudo, garantir que as lides sejam decididas por um humano, ainda que um algoritmo sugira a construção de um raciocínio com base no material que lhe serviu de treinamento (inclusive, de autoria do próprio magistrado).

Sim, o magistrado brasileiro usará inteligência artificial em suas decisões e isso em poucos anos estará normalizado, desde que não surjam casos grotescos de uso irresponsável da ferramenta, e é isso que tentaremos evitar com a regulamentação. Não se pretende permitir que um magistrado envie um PDF com a íntegra do processo, sem qualquer proteção de dados ou anonimização, para que uma máquina processe aquele material, possivelmente enviando-o para outros datacenters em países tão distantes quanto conectados, e que receba uma minuta completa, citando jurisprudência inexistente ou adotando abordagens jurídicas típicas de discursos de internet. Isso é uma situação de uso irresponsável que não pode ocorrer e que a regulamentação busca conter, orientando quanto a termos de uso das soluções e determinando o oferecimento de capacitação àqueles que pretendam fazer uso da ferramenta.

Como ficam os dados sigilosos e processos protegidos por segredo de justiça?

Essa foi uma das principais preocupações nas discussões da regulamentação. Disponibilizar os dados públicos dos processos é uma necessidade para que as IAs dos tribunais possam funcionar bem, seja por meio de APIs ou bases de dados compartilhadas - mas o mesmo não pode ser dito dos dados sigilosos ou dos processos protegidos por segredo de justiça.  Em relação a esses dados, o Judiciário é depositário e responsável perante seus titulares na forma da LGPD.

Claro está que a forma de tratar esses dados não poderia ser a mesma. Nem colocar todos em um "balaio" indistintamente, como se não houvesse distinção a efetuar.

Após intensos debates, chegou-se a um denominador comum: dados sigilosos não poderão ser utilizados para treinamento dos modelos e, quando em operação, deverão ser previamente anonimizados na origem, com alguma ferramenta de anonimização disponibilizada pelo tribunal, à qual foi atribuída categorização de baixo risco, justamente para viabilizar seu desenvolvimento à luz das necessidades que se colocarão logo mais, quando se pretenda usar IA em unidades do Judiciário que atuem fundamentalmente com processos protegidos por segredo de justiça, como as varas de família.

Os tribunais terão autonomia para desenvolver suas próprias soluções

Esse foi um ponto central das discussões na audiência pública: os tribunais temiam perder capacidade de inovação se tivessem que comunicar ao CNJ e documentar cada estudo ou pesquisa que realizassem com IA para avaliar a viabilidade de desenvolvimento de cada solução.

A fim de resolver essa preocupação, buscou-se reforçar em várias passagens da resolução a garantia da autonomia dos tribunais e adiou-se o momento do cadastro da iniciativa no Sinapses¹⁷ - se antes deveriam ocorrer ainda no estudo ou pesquisa da viabilidade da solução, na nova versão essa exigência é deslocada para a etapa de desenvolvimento, após, portanto, da conclusão dos estudos. No caso das aplicações definidas como de baixo risco, a obrigatoriedade do cadastro é ainda posterior ao desenvolvimento: deve dar-se nas fases de validação e homologação, mas antes da ferramenta entrar em produção.

A norma trará em anexo próprio a classificação de risco das atividades com IA no Poder Judiciário

A perspectiva de uma lista concreta com a definição, aplicada ao Judiciário, de aplicações de IA que seriam categorizáveis como de risco baixo, alto ou excessivo, foi um dos aspectos mais elogiados da primeira minuta submetida à audiência pública.

Isso porque a existência de uma categorização prévia de riscos permite aos tribunais e aos desenvolvedores planejarem seus investimentos e prioridade, sabendo que determinadas inovações exigirão menos requisitos de segurança e monitoramento, enquanto outras, de risco mais elevado, demandarão maiores cuidados.

Decidiu-se, porém, retirar essas definições de risco do corpo da norma (o que de certa forma poderia levar a uma "cristalização" dos riscos ou do desenvolvimento de soluções), e deslocou-se tais definições para um anexo que será anualmente revisado pelo Comitê Nacional de Inteligência Artificial no Judiciário, uma nova instância que a regulamentação pretende criar (trataremos disso mais à frente).

Acreditamos que esse formato permitirá atender a todas as preocupações: àqueles que pedem publicidade e transparência nas definições de risco, mas também àqueles que pedem flexibilidade para não inibir a inovação em IA por parte dos tribunais.

A decisão terá que trazer no rodapé o indicativo de que foi produzida com auxílio de inteligência artificial?

A versão original da minuta levada à audiência pública efetivamente previa que as decisões judiciais minutadas com auxílio de inteligência artificial deveriam trazer em seu rodapé tal identificação.

No entanto, os debates demonstraram que essa disposição criaria mais problemas do que resolveria: partes vencidas em processos judiciais poderiam sentir-se injustiçadas "pelo robô" e casos de anulação de decisões proferidas com auxílio de IA poderiam começar a brotar. Com alguma razão, um magistrado afirmou da tribuna do CNJ: "Nas minhas decisões atuais, não consta nota de rodapé indicando terem sido elaboradas com auxílio do Word ou de um assessor. Porque a responsabilidade passa a ser integralmente minha quando adoto uma decisão. E assim continuará sendo... porque o uso de uma ferramenta nova implicaria mudança nisso, se a decisão continua sob minha exclusiva responsabilidade?"

Efetivamente, esse nível de disclosure no uso da IA é necessário em vários tipos de aplicação - particularmente quando não existe um responsável legal claro e a IA pode ser usada maliciosamente, para propaganda enganosa, discurso de desinformação ou mesmo para deep fakes. Mas não é disso que estamos tratando aqui. Na decisão judicial há claramente uma pessoa fisicamente identificada como responsável - e a decisão será sempre recorrível. Não é a máquina que decide, mas o juiz humano: a máquina apenas constrói uma linha argumentativa baseada naquele material com que foi treinada, incluindo os entendimentos já proferidos pelos tribunais superiores, pela corte local ou pelo próprio magistrado.

Um elemento essencial, no entanto, é que o próprio sistema de Justiça possa monitorar a conduta de seus membros. Sem qualquer tipo de informação, o trabalho das corregedorias - inclusive para fiscalizar o cumprimento da norma - torna-se inviável. Por isso, a ideia é registrar o uso das soluções de IA corporativas no próprio sistema disponibilizado pelo tribunal, a fim de que se possa eventualmente auditar o quanto e o como os magistrados vêm se utilizando de IA, até mesmo para fins estatísticos e para direcionar a política de gestão do Judiciário, além de coibir eventuais excessos que saiam da curva.

Nas hipóteses em que o magistrado usar soluções de IA de mercado, e não aquela corporativa fornecida pelo tribunal - trataremos dessa hipótese mais à frente neste artigo - outras exigências se aplicarão, mas igualmente o acréscimo da informação "produzido com o auxílio de ferramentas de inteligência artificial" no rodapé da decisão judicial ficará a critério do signatário da decisão.

O Comitê Nacional de Inteligência Artificial do Judiciário

Outro foco de debate foram as prerrogativas e a composição do Comitê que pretende ser criado pela nova resolução para auxiliar o CNJ na condução da política de inteligência artificial no Judiciário. Criticou-se, inicialmente, a constitucionalidade de tal comitê, seu caráter deliberativo com amplas prerrogativas e finalmente sua composição no formato inicialmente proposto.

Inicialmente, com relação a delegar parte das competências de supervisão administrativa constitucionalmente atribuídas ao CNJ para um órgão fracionário, deve-se destacar que essa não é uma prática recente: o Conselho possui diversos comitês, dentre eles o da Saúde e o de Precatórios, que possuem igualmente natureza deliberativa, manifestando-se em processos ou proferindo enunciados destinados a orientar a atuação dos tribunais. A Instrução Normativa n. 94, de 25/04/2023, regulamenta o funcionamento dos comitês no âmbito do CNJ, inclusive suas prerrogativas e eventualmente sua natureza deliberativa.

Claro está que, quando aprova uma resolução atribuindo competências que são originalmente do Plenário a um órgão fracionário, o CNJ não abre mão de suas competências. Nesse sentido, foi inserida norma que deixa claro que o Plenário poderá avocar, revogar, reformar, ratificar ou arquivar providência atribuída ao Comitê Nacional de Inteligência Artificial, de ofício ou mediante provocação, mantendo-se assim no órgão pleno a ampla cognoscibilidade dos debates e decisões que possam vir a ser tomadas no Comitê.

Por outro lado, várias das atribuições do Comitê foram suavizadas. Se antes exigia-se a autorização prévia para uso nas atividades do Judiciário de alguma solução de IA de mercado por meio de assinatura privada, a lógica agora inverteu-se: o magistrado poderá usar a solução que desejar, desde que tal solução atenda a critérios mínimos e seu uso seja informado à corregedoria, que compilará os dados para uso do Comitê. Esse, por sua vez, poderá vedar ou limitar o uso de alguma determinada ferramenta a aplicações de baixo risco, por exemplo, em função dos seus termos de uso ou política de dados. O Comitê passa a atuar nessa matéria em caráter reativo e não mais "travará" o uso das soluções de IA até o seu pronunciamento.

Finalmente, quanto à composição, chegou-se a uma proposta de 21 membros, contemplando conselheiros do CNJ, representantes dos tribunais superiores, da Presidência e Corregedoria, da ENFAM, desembargadores dos quatro ramos da Justiça, representantes das associações nacionais da magistratura, da OAB, do MP e da Defensoria Pública, além de dois representantes da sociedade civil, externos ao Judiciário, especialistas em IA, proteção de dados e áreas de conhecimento conexas. Acreditamos que esse desenho dará representatividade ao órgão e permitirá que funcione com alguma velocidade ao agregar as diferentes visões possíveis sobre as temáticas de competência do órgão.

Capacitação dos magistrados e servidores e o formato da nova minuta

Finalmente, a capacitação dos magistrados e servidores foi um ponto abordado por diversas intervenções na audiência pública e naquelas recebidas por escrito. Efetivamente, uma tecnologia disruptiva como a IA generativa precisa ser operada da forma tecnicamente adequada e é importante que o usuário entenda o funcionamento de seu mecanismo e não simplesmente reproduza prompts genéricos compartilhados por terceiros.

A própria consciência da necessidade de anonimização dos dados pessoais, preservando o direito dos titulares desses dados na forma da LGPD, é essencial para manter a credibilidade do Judiciário, que é depositário de muitos dados protegidos, como aqueles contidos em processos que discutem questões de saúde, paternidade, renda ou investigações policiais em andamento.

Na pesquisa realizada para instruir os trabalhos do GT da IA¹⁸, 94% dos magistrados e servidores demonstraram interesse em se capacitar para o uso de aplicações de IA generativa. Na proposta, essa providência foi delegada às escolas judiciais da magistratura e dos servidores, na forma das diretrizes que serão indicadas pela ENFAM. O uso responsável da IA generativa nos tribunais, evidentemente, precisa ser, antes de tudo, um uso esclarecido.

Finalmente, quanto à forma em que se apresentará o trabalho final do GT da IA: a primeira minuta, divulgada por ocasião da audiência pública, vinha no formato de emendas ao texto vigente da Resolução 332. Isso fazia com que ela virasse uma colcha de retalhos, com vários dispositivos revogados e artigos e capítulos com indicações do tipo "A, B, C...G" adicionadas como sufixos aos artigos e capítulos. Dada a amplitude das modificações necessárias, a leitura e remissão interna da resolução fruto da revisão ficaria complexa e difícil, sem necessidade.

Daí surgiu a ideia de minutar uma resolução integralmente nova, que aproveitasse a Resolução 332, a primeira minuta de atualização e as contribuições recebidas, em um texto consolidado mais limpo e coerente, de acordo com a boa técnica legislativa. Uma vez aprovado na derradeira reunião do GT da IA prevista para esta quinta-feira, 12/12, essa minuta de nova resolução poderá ser conhecida, comparada com a anterior e discutida, com vistas à sua provável deliberação no Plenário do CNJ no início do ano que vem.

5. Como ficam as soluções de IA oferecidas pelos tribunais?

É fato notório, até porque vem sendo alardeado, que os tribunais já estão desenvolvendo diversas iniciativas com o uso de IA generativa, como aquelas que foram citadas ao longo de texto, sem prejuízo de várias outras que ainda estão em fase de estudos de viabilidade. Essas ferramentas foram projetadas e desenvolvidas tendo em mente a vigente Resolução 332 do CNJ, que não tratava de IA generativa, mas já trazia regras fundamentais de segurança da informação.

Com as novas regras, os tribunais terão prazo de doze meses para se adequarem, quando e se alguma adequação for necessária (as soluções que estão em funcionamento já respeitam em ampla medida as novas diretrizes indicadas).

Mas cabe destacar aqui a legítima preocupação das entidades representantes do Poder Judiciário (tanto as ligadas à administração dos tribunais quanto àquelas ligadas às carreiras e seus integrantes) com a manutenção dos níveis de inovação no Judiciário. Explico-me: o Poder Judiciário brasileiro vem sendo cobrado pelo CNJ para promover o estímulo à inovação no Judiciário. E muita coisa boa tem sido feita, com ideias novas e viáveis promovendo novas abordagens de velhos e novos problemas. Sob a coordenação nacional da conselheira Daniela Madeira, a inovação tem se mostrado mais abrangente que a inteligência artificial, mas certamente dela fará uso como um dos principais instrumentos para evolução.

Submeter qualquer estudo ou iniciativa a registro prévio no Sinapses (sistema de cadastro de IA do CNJ), poderia constranger a ousadia ou criatividade dos magistrados e servidores à frente dessas áreas. Portanto, garantir aos tribunais que possam ter autonomia na promoção e estímulo à inovação em geral (e de aplicações de inteligência artificial em particular) era muito importante na visão dos missivistas que se dirigiram ao GT da IA para sugerir ponderações nesse sentido acerca da primeira minuta divulgada.

O Sinapses continuará sendo a plataforma nacional de cadastro, compartilhamento e auditoria de solução de IA no Judiciário, mas o momento de cadastro e a exigência de depósito dos código-fonte e bases de dados foi relativizada, inclusive em cumprimento às normas de propriedade intelectual eventualmente aplicáveis a bases de dados em geral e LLMs em particular. A exigência de depósito integral prevista na Resolução 332 vinha se mostrando impraticável, até mesmo pelas dimensões das bases de dados utilizadas em tais aplicações.

Por outro lado, se ganharam mais autonomia para inovar, a ideia não é que busquem a inovação sozinhos. A resolução continuará estimulando a colaboração entre tribunais ou entre tribunais e demais órgãos públicos, a fim de evitar desperdício de tempo e energia no desenvolvimento paralelo e concomitante de soluções de IA para as mesmas finalidades. Sempre que as soluções sejam aproximadas e compatíveis, a resolução orienta que os tribunais desenvolvam conjuntamente, o que lhes preservará preciosos recursos humanos e financeiros.

Igualmente, a resolução descerá a maiores minúcias técnicas, especificando requisitos de segurança ou procedimentais no desenvolvimento e uso de aplicações de IA. O monitoramento contínuo do uso de dados, a auditabilidade e explicabilidade dos resultados nas aplicações de alto risco, sempre que tecnicamente possível, são alguns desses requisitos. Ressalte-se que tais diretrizes de segurança e uso de dados foram construídas em diálogo com os órgãos de TI dos tribunais integrantes do Colégio de Presidentes de TJs - Consepre, a fim de buscar uma redação que não criasse obstáculo intransponível nem fosse branda demais em requisitos operacionais de segurança cibernética, previstos em outra norma do CNJ, a Resolução 396, que institui a estratégia nacional de segurança cibernética do Judiciário.

Acreditamos, e oxalá não seja em vão, que a solução construída virará parâmetro internacional pelo seu equilíbrio, sua abrangência e qualidade técnica.

6. Como ficam os magistrados e servidores que utilizam soluções privadas de IA generativa?

A resposta a essa pergunta permeou os debates do GT da IA desde o início e as opiniões dos membros do grupo foram de certa forma evoluindo, inicialmente de uma posição mais restritiva para uma outra, mais liberal, com regras claras e supervisão.

A grande preocupação do uso de soluções de IA generativa privada por magistrados e servidores era o trato com os dados do próprio Judiciário e os de terceiros, eventualmente dados pessoais protegidos pela LGPD, que estariam trafegando na rede sem controle algum. Sabe-se, por meio da pesquisa realizada pelo CNJ (com coordenação do professor Juliano Maranhão, membro do GT), que diversos sistemas de IA generativa já vêm sendo utilizados para auxiliar os trabalhos dos magistrados e servidores, antes mesmo de sua regulamentação. Prompts de IA generativa já bastante desenvolvidos vêm sendo compartilhados em redes de magistrados e servidores e sendo utilizados para minutar ementas, despachos e mesmo decisões judiciais. Fechar os olhos a isso seria uma ameaça à evolução dos sistemas e, mais que isso, acabaria pondo em xeque a própria efetividade da nova resolução, que estaria ameaçada de descumprimento frontal. Em linguagem simples, podia "não pegar".

De nada adianta uma norma que ninguém segue, de nada adianta uma norma que atrapalha mais que ajuda na obtenção algum objetivo de política pública.

A primeira ideia era que o Comitê Nacional de Inteligência Artificial do Judiciário validasse previamente as ferramentas e autorizasse seu uso com base no exame de suas funcionalidades e termos de uso de dados. Mas o tempo que o Comitê levaria para entrar em funcionamento, com diversas prioridades institucionais à frente, poderia causar uma lentidão no exame das ferramentas de IA generativa ou de outras novas que possam vir a surgir.

Daí se evoluiu para uma posição de liberdade controlada: fica definido aquilo que será exigido para uso de sistemas mediante licença privada (capacitação, não-compartilhamento de dados para treinamento, restrições a dados protegidos, supervisão humana e uso apenas em situações definidas como de baixo risco). Atendidas essas condições, o magistrado ou servidor poderá adquirir licença para uso de solução privada de IA generativa, desde que informe à sua corregedoria para fins de acompanhamento. 

Essa é uma solução transitória, necessário que se diga, enquanto os tribunais não disponibilizarem solução própria, corporativa, para o uso jurisdicional de IA generativa. Permitir a longo prazo que cada um utilize a ferramenta que quiser, sem um mínimo de centralidade, é uma abertura sistêmica a problemas diversos, da falta de controle sobre o algoritmo até o eventual vazamento de dados ou de minutas de decisão ainda não proferidas.

Assim, a regulamentação faz uma nítida opção por dar preferência à solução corporativa de IA generativa personalizada para uso do tribunal. A partir do momento que o tribunal escolher, investir e implantar uma solução de uso corporativo, seu uso deve se dar preferencialmente sobre o de licenças privadas dos magistrados e servidores. Do mesmo modo que se faz com os sistemas em geral ou os pacotes de escritório: se o tribunal usa e-proc, o magistrado não poderá usar PJe; se o tribunal adquire licenças do Office, o magistrado não usará outra suíte de escritório nas redes do tribunal e assim por diante, valendo o mesmo para antivírus, provedor de e-mails, sistemas internos. esse mesmo princípio valerá para as soluções de IA generativa.

Ressalte-se que essa é a tônica na maior parte dos países em que se admite o uso no Judiciário de IA generativa. Na China, somente é admitido o uso no Judiciário de IA corporativa governamental. Na França e Alemanha, embora não seja proibido, o uso de IA generativa privado é fortemente desaconselhado. Nos EUA, onde a regulação é estadual, e, portanto, variável de um local a outro, vários estados têm migrado de uma postura mais liberal para uma mais restritiva, vedando ou limitando às aplicações de baixo risco a utilização de IA generativa não fornecida pelo tribunal.

Assim como nos exemplos internacionais, também dentro do GT de IA prevalece uma visão de que qualquer software que venha a ser utilizado em área sensível de um tribunal deve ser corporativo¹⁹. Somente assim teremos dados estatísticos corretos, uma proteção de dados adequada, a certeza de que dados do tribunal não estão trafegando indevidamente pela rede, teremos uma garantia contra alucinações ou citações de precedentes inexistentes, só assim teremos ferramentas úteis ao trabalho da corregedoria (como saber se as minutas estão efetivamente sendo revisadas pelo magistrado, por exemplo) e uma interface de utilização adaptada ao tribunal, que poderá identificar o que funciona e o que não funciona e, assim, planejar evoluções. A médio prazo, o normal é que uma solução personalizada para o tribunal seja mais naturalmente mais adequada ao uso pelos magistrados do que uma solução comercial genérica, ainda que num primeiro momento alguns lamentem ter sido escolhido o o produto X e não o Y.

Em ultima ratio, o tribunal está investindo tempo de servidores e recursos financeiros para oferecer uma solução de IA generativa personalizada às suas necessidades para seus magistrados e servidores, com segurança de dados, qualidade em seu banco de precedentes e interface adaptada. São cuidados que, em geral, não serão encontrados em uma solução comercial genérica, desenhada para tratar também de receitas de culinária a roteiros turísticos.

Dessa forma, enquanto os tribunais não oferecem uma tal solução corporativa (algo que fatalmente levará algum tempo para espraiar-se por todo o país), decidiu-se permitir o uso privado dessas soluções de IA generativa, recomendando os cuidados necessários, ao mesmo tempo em que se indica que, num futuro breve, a solução em definitivo para o uso da IA generativa no Judiciário passará por versões corporativas, disponibilizadas pelos tribunais a seus usuários, personalizadas para o tratamento processual, com segurança de dados e de comunicação.

7. Conclusões

 Este artigo pretendeu abordar os principais pontos da nova regulamentação do uso de inteligência artificial no Judiciário brasileiro, antecipando alguns dos temas mais relevantes que estarão contidos no relatório final do Grupo de Trabalho criado para atualizar a Resolução CNJ 332, como vimos, elaborada anos antes do lançamento público das primeiras soluções de inteligência artificial generativa.

Em apertada síntese, a nova regulamentação pretende garantir o uso de inteligência artificial no Judiciário dentro de critérios claros, seguros e que não permitam prescindir da supervisão humana do juiz. A nova norma cuidará da segurança da informação, em particular dos dados pessoais, sigilosos ou protegidos por segredo de justiça. Cuidará da capacitação dos magistrados e servidores e garantirá a autonomia dos tribunais para inovar usando inteligência artificial, com acompanhamento pelo CNJ, mas sem que esse acompanhamento se transforme numa âncora pesada demais.

As exigências que pareceram excessivas foram moderadas, as contribuições recebidas foram amplamente atendidas, aquilo que parecia nebuloso foi esclarecido e, sobretudo, avançou-se muito na construção de um consenso dentro do Grupo de Trabalho que parece responder às principais inquietudes, particularmente quanto ao uso de dados e de soluções privadas pelos magistrados e servidores, enquanto os tribunais não disponibilizarem ferramentas corporativas, próprias para uso de IA generativa na corte. Essas ferramentas, que certamente estarão funcionando em poucos anos, serão normalizadas em menos de uma década - e o debate que hoje está sendo travado parecerá ingênuo, desde que, repita-se, incidentes de uso irresponsável da IA generativa sejam evitados e, quando inevitáveis, que sejam apurados com transparência e rapidez.

Finalmente, a nova regulamentação jogará uma luz sobre como e quanto a inteligência artificial vem sendo utilizada, e quanto esse uso se intensificará, permitindo que os órgãos de controle tenham elementos para acompanhar essa utilização e garantir a aplicação das diretrizes nacionais para uso dessa nova ferramenta, sem tirar das mãos do juiz a decisão. Pelo contrário: pretende-se entregar uma proposta de regulamentação do uso da IA generativa como ferramenta na mão do juiz, que sairá fortalecido em seu papel institucional e permitirá ao Judiciário enfrentar a demanda crescente de forma moderna, ágil e segura, onde a inteligência artificial ocupará o lugar que merece, como acessória da inteligência humana, essa sim, indispensável à entrega da jurisdição.

______

1 KISSINGER, Henry. A era da IA e nosso futuro como humanos. Editora Alta Cult, 2023, p.196.