Os perigos da inteligência artificial (IA) para o exercício da jurisdição

A sociedade moderna tem sido inundada com notícias sobre inteligência artificial (IA). E nós, do direito, que assistíamos essa inovação como um movimento de aplicação distante em nosso campo, hoje temos nos deparado com essa realidade no cotidiano e nas atividades mais singelas, seja como advogados ou juízes, ou ainda professores e alunos nos bancos da academia. A inteligência artificial (IA) é o futuro de todos os campos do conhecimento, mas é preciso cautela em sua aplicação – especialmente no direito – até para não ficarmos limitados a hipóteses dataístas de que a racionalidade é limitada e de que a tecnologia contemporânea teria encerrado a formação do espaço público a partir da ação comunicativa (HAN, 2002)¹.

De início, a constatação que se tem quando se lê em uma mesma frase as prescrições “inteligência artificial” e “direito” é a de um conflito de conceitos. E não por outra razão, mas porque a lógica central do direito é balizada em valores morais que, desafiados e postos sob a tutela do julgador, imprimem outros valores sobre a sociedade. Valores, diga-se, fruto de realidades sociais diversas e provenientes de cenários cognitivos múltiplos.

No ponto, ao menos em sentido abstrato, poderíamos afirmar que empregar a IA com fins de colher valores morais é ignorar que a formatação do direito estaria sendo submetida a quem não tem moral, ou ao algoritmo moral eleito exclusivamente pelo criador do instrumento artificial. Até mesmo porque “os pontos cegos de um modelo refletem o julgamento e prioridades de seus criadores” (O’NEIL, 2021)². Assim como no diálogo colhido do filme “Eu, Robô”³, protagonizado por Will Smith, em que ele questiona um dos robôs e recebe como resposta “meu pai me ensinou…”, e o personagem de Will Smith corrige para “seu criador”. E quando o robô tem um rompante de raiva, Will Smith pergunta: “já simulou raiva antes?” (não usa a palavra “sentiu”, mas “simulou”, pois o robô não é humano para sentir).

Esse diálogo parece ser bastante apropriado para ilustrar que a IA não edifica valores, não imprime suas circunstâncias e experiências de vida sobre um determinado acontecimento, mas apenas reproduz, por critérios matemáticos e algoritmos de toda ordem, aquilo que seu criador quer que ela reproduza.

Toda essa reflexão é feita em função de uma recente notícia que ganhou notoriedade no mundo jurídico, justamente em função da aplicação da IA na estruturação de uma sentença judicial, sendo que, no caso noticiado, o magistrado – colombiano – teria se utilizado de um chatbot, criado pela empresa OpenAI – ChatGPT⁴ –, que, em resumo, é um software (um aplicativo) com que simula uma rede neural e oferece respostas a questões diversas, que são propostas pelo indivíduo que usa a ferramenta e fruto das próprias experiências. Trata-se de uma ferramenta que não necessariamente utiliza a internet para funcionar, sendo seu desenvolvimento e atuação feito em cima de um banco de dados que já foi processado e analisado pela IA.

Existem diversos chatbots, diga-se, mas são poucos os que têm a mesma capacidade que o chatGPT. O Google, por exemplo, anunciou⁵ o seu chatbot inteligente, denominado Bard, rival do chatGPT, que, a princípio, possui as mesmas características de analisar um banco de dados, e, por meio de machine learning, apresentar respostas criativas e fundamentadas para os questionamentos propostos se assemelhando à interação e interpretação realizada por humanos. Aliás, até mesmo o Supremo Tribunal Federal (STF) planeja a implementação de uma ferramenta de inteligência artificial (projeto Victor⁶).

Diante do quadro, nos compete oferecer uma crítica quanto ao perigo de se formatar o direito a partir de critérios autorreferenciais (ainda mais quando em fase de testes), assim como fazer um registro de que esse novo cenário tem promovido uma verdadeira falência do conceito de direito em sentido clássico.

A proposta de utilização de ferramentas dessa natureza, é promover mais eficiência ao exercício da jurisdição, como a simples análise dos temas de um recurso (um classificador de temas – exemplo o projeto Victor), garantindo que a um custo menor por parte do Estado os jurisdicionados tenham respostas e soluções mais rápidas. O volume de demandas judiciais e a impossibilidade de se alcançar uma estrutura de Estado capaz de respondê-las em tempo adequado, portanto, parecem ser o principal fator de impulso desse tipo de ferramentas. E é justamente esse o pilar de maior preocupação para o direito, pois a bem de se buscar aplicar o direito e promover, acima de tudo, os valores da sociedade, o exercício da jurisdição parece estar se guiando a partir da necessidade de simplesmente responder ao máximo de questionamentos feitos pelo jurisdicionado.

Sobre o ponto, nos parece interessante abrigar, ainda que provisoriamente, a ideia de que tal como a ciência que informa as consequências das operações químicas e físicas, o direito é frequentemente chamado a aplicar uma fórmula capaz de encerrar conflitos e promover a paz e harmonia social onde é aplicado. Sob tal premissa simplória, até seria válida a aplicação de algoritmos e sistemas de inteligência artificial. Entretanto, como bem se sabe, o direito tem uma complexidade científica, própria das ciências sociais, que lhe impedem de formatar respostas absolutas – até mesmo porque as relações humanas são impossíveis de se classificar de modo absoluto (tema para outro artigo).

A formatação do direito e sua aplicação concreta, para além das “Lições Preliminares do Direito” de Miguel Reale, não parece alinhar-se à uma percepção moral, colhida da individualidade de circunstâncias concretas e dissociada dos elementos éticos da sociedade. O direito, para além de debates concernentes ao positivismo, neopositivismo, ou estruturas conceituais de aproveitamento normativo de um modo geral, tem por objeto a realidade jurídica concebida a partir da apropriação de valores que, por sua vez, de maneira aplicada, estruturam a própria ordem jurídica e, consequentemente, reflete o que é a sociedade.

Assim, se essa atividade for relegada à inteligência artificial (IA) que, como já dito, não imprime ou estrutura qualquer valor, pois carece de um elemento central para tanto, que é o exercício da razão, estaríamos aceitando a construção do direito para além dos valores, ou independentemente dos valores do grupo. E estaríamos acolhendo esse critério pelo simples fato de ser mais eficiente do ponto de vista econômico – ao menos para o Estado.

O critério econômico, diga-se de passagem, não pode ser ignorado, mas não pode ser o elemento primário de direção do exercício da jurisdição, pois, do contrário, como indicado aqui, a formatação do direito fica em segundo plano, assim como a própria identidade do Estado enquanto reflexo da sociedade edificada na ordem jurídica.

É ainda curioso perceber a exaltação e alegria de parte dos advogados diante dessa estruturação da jurisdição a partir de elementos de IA, pois, se antes a habilidade do advogado era o fator preponderante para o exercício da jurisdição, especialmente a capacidade de identificar os valores da sociedade e indicá-los para defesa dos interesses de seus clientes, hoje a percepção dos critérios adotados pelos algoritmos dos Tribunais é o elemento central.

A partir de então, o conhecimento jurídico se perde completamente e o exercício da jurisdição passa a ser estruturado por mecanismos autorreferenciais informados pelos advogados em suas petições iniciais que, por sua vez, foram formadas a bem de atender aos Boletins Informativos (BIs) que são produzidos a partir de ferramentas de IA capazes de colher da atividade jurisdicional elementos de probabilidade de resultados em cada órgão da jurisdição, tendo como critério central os resultados anteriores oferecidos pelo mesmo Tribunal.

Ou seja, os valores da sociedade, diante desse cenário de propagação de ferramentas de inteligência artificial (IA) já não têm valia para a estruturação do direito. A inteligência artificial (IA) sempre mimetizará o ser humano, nunca atingindo a proposta filosófica do pensar de forma prospectiva, de forma livre, diante do cenário posto; não sendo, portanto, capaz de substituir o homem nem em suas tarefas mais básicas. Afinal, falta à inteligência artificial (IA) o essencial: o dom vitale, o dom da vida, aquilo que se faz naturalmente. E natural é, literalmente, o antônimo de artificial.

----------

1 HAN, Byung-Chul. Infocracia: Digitalização e a crise da democracia. Petrópolis, RJ. Vozes, 2022.

João Paulo de C. Echeverria
Sócio da Covac Sociedade de Advogados

Laís Chiarato das Neves
Advogada da Covac Sociedade de Advogados

Ramiro Malgueiro Espindola
Advogado da Covac Sociedade de Advogados.