Por uma regulamentação legal do uso da IA em decisões judiciais

A implementação da IA nas sentenças judiciais representa um avanço significativo na modernização do sistema legal, permitindo a análise automatizada de extensas quantidades de dados legais e factuais. Entre os benefícios frequentemente apontados para tecnologias dessa natureza, incluem-se a diminuição da carga de trabalho dos juízes, o aprimoramento da uniformidade das decisões e a eficácia na administração dos casos judiciais. No entanto, o uso de algoritmos no âmbito jurídico também apresenta desafios consideráveis que não devem ser ignorados. Temas como a proteção da privacidade dos dados dos indivíduos envolvidos nos processos, o risco de preconceito algorítmico que perpetue desigualdades existentes, e a necessidade de interpretação e supervisão humanas das decisões automatizadas são preocupações que requerem cautela. A partir disto, afigura-se crucial desenvolver regulamentações legislativas concretas que assegurem a conformidade ética e legal dos modelos algorítmicos usados no Poder Judiciário – e, sobretudo, que poderem o ato de julgar com todas as suas especificidades.

A título ilustrativo, em 2023, ao menos dois casos de utilização da ferramenta ChatGPT em sentenças judiciais foram amplamente divulgados na mídia, demonstrando a gravidade do problema gerado pela ausência de delimitações concretas ao uso de algoritmos na tomada de decisão judicial. Na Colômbia, um magistrado incluiu em sua decisão questionamentos feitos à IA acerca da regulamentação legal daquele país sobre a possibilidade de isenção de custas médicas a uma criança autista¹, abertamente trazendo fundamentação decisória construída por inteligência artificial. Alguns meses depois, um juiz federal brasileiro também publicou sentença originada no ChatGPT, que continha um precedente supostamente firmado pelo STJ. No entanto, o julgado não existia: tratava-se de criação do próprio ChatGPT, embora o magistrado tenha minimizado a ocorrência como “erro corriqueiro”².

A situação ensejou a divulgação da Circular COGER 33/23 pelo Corregedor Regional da Justiça Federal da 1ª região, que reforçou “os deveres de cautela, de supervisão e de divulgação responsável dos dados do processo, quanto ao auxílio de IA para a elaboração de decisão judicial” e recomendou “que não sejam utilizadas para a pesquisa de precedentes jurisprudenciais ferramentas de IA generativa abertas e não-homologadas pelos órgãos de controle do Poder Judiciário”³. Contudo, a única medida concreta resultante do documento foi a advertência sobre a responsabilidade do julgador por decisões proferidas com auxílio de instrumentos de inteligência artificial, o que reflete uma questão deveras maior do que um único caso pontual de uso do ChatGPT: a inexistência de disposição legal sobre o assunto, de modo a permitir o controle de risco e a minimização dos impactos negativos.

Atualmente, não há nenhuma vedação normativa que explicitamente proíba este tipo de comportamento pelo magistrado, sendo suficiente que a decisão alcance os critérios mínimos de fundamentação dispostos no art. 489, § 1º, do CPC, ou no art. 315, § 2º, do Código de Processo Penal. Inobstante, não se desconhece que o CNJ editou a Resolução 332/20, que traz algumas determinações sobre a inteligência artificial no Poder Judiciário. É cediço, porém, que o ato administrativo não tem a mesma força vinculante do que uma lei – e é justamente isto que, em cotejo com a realidade da utilização de modelos algorítmicos não regulamentados disponíveis no mercado, gera a imprescindibilidade de observar o princípio da legalidade e regulamentar a matéria de forma concreta e centralizada.

Noutras palavras, significa dizer que as duas sentenças judiciais que, em alguma medida, valeram-se do ChatGPT não são hipóteses isoladas. Partindo-se do exemplo ocorrido no Brasil, não teria sido possível identificar a participação da inteligência artificial na construção da sentença se não fosse percebido o erro pontual no “julgado” trazido pela inteligência artificial. Certamente, inúmeras outras decisões judiciais estão sendo fomentadas com o apoio de ferramentas algorítmicas disponíveis no mercado; no entanto, pela natureza comercial do ChatGPT e assemelhados – que não foram pensados para atuar nas atividades inerentes ao Poder Judiciário e que servem aos interesses das companhias que os projetaram –, o risco de erros judiciais se torna ainda mais premente. Por óbvio, a fixação de balizas legais para a implementação do “juiz-robô” (ainda que apenas como auxiliar na tomada de decisão) não isentará a possibilidade de descumprimento das normas propostas ou de más práticas em sua utilização. É, no entanto, um ponto de partida para viabilizar um controle jurisdicional concreto que permita a redução dos impactos negativos destas tecnologias.

Mais do que isto, ainda que inúmeras propostas legislativas sobre inteligência artificial estejam em trâmite no Congresso Nacional, tal qual o PL 2.338/23⁴, a inevitabilidade do uso destas ferramentas no Poder Judiciário⁵ exige um olhar crítico sobre o tema para reconhecer que regulamentações genéricas contra tecnologias algorítmicas não são suficientes para resguardar os direitos e garantias inerentes à esfera jurídica. Exemplificativamente, não basta determinar que a não discriminação deve ser preceito central no desenvolvimento de ferramentas algorítmicas, pois isto não abrange a complexidade do direito ao julgamento por um magistrado imparcial⁶. Assim, “(...) os desafios jurídicos dizem respeito, em cada caso, a áreas distintas do ordenamento jurídico e exigem, além de regulamentações abrangentes, muitas vezes também respostas específicas para áreas diversas”⁷.

Regulamentações sólidas são essenciais para lidar com essas preocupações, promovendo práticas éticas no desenvolvimento e implementação, garantindo conformidade com padrões de segurança e privacidade, e fortalecendo a confiança do público na utilização responsável da inteligência artificial. Outrossim, a regulação desempenha um papel crucial ao estabelecer estruturas que definem claramente as responsabilidades legais em situações de danos causados por sistemas de IA, e ao proteger os direitos individuais diante de decisões automatizadas. Dificilmente um ato administrativo (Resolução 332/20 do CNJ) ou legislativo, mas excessivamente abrangente (PL 2.338/23) será capaz de garantir a observância de diversas garantias constitucionais que resguardam o processo como um todo. A incorporação responsável dessa tecnologia exige não apenas avanços técnicos, mas também um compromisso firme com os princípios essenciais de justiça, equidade e respeito pelos direitos individuais. Não se deve pensar, pois, em substituir o juiz humano, mas em otimizar a implementação da inteligência artificial como ferramenta de auxílio na construção da decisão e, fazendo-o, modular seus riscos e apreciar seus benefícios^8-9.