O selo de IA nas decisões judiciais

Introdução

A crescente utilização de ferramentas de IA -  Inteligência Artificial no Judiciário promete agilizar processos e aumentar a eficiência das decisões. Contudo, essa integração apresenta desafios, especialmente quanto à transparência e responsabilidade. Nesse contexto, propõe-se a adoção de um selo nas decisões judiciais para indicar o uso de IA, visando garantir a transparência, fortalecer a confiança no sistema de justiça e assegurar os direitos das partes envolvidas.

Transparência e controle social

A transparência é um dos pilares do Estado Democrático de Direito. Informar que uma decisão foi influenciada por uma ferramenta de IA é essencial para que as partes litigantes e a sociedade em geral compreendam os elementos que contribuíram para o julgamento. A utilização de um selo que indique o uso de IA não só reforça a transparência, mas também permite um controle social mais efetivo sobre as práticas do Judiciário.

Direito ao contraditório e à ampla defesa

A utilização de IA na fundamentação de decisões judiciais pode impactar significativamente o direito ao contraditório e à ampla defesa. Quando as partes não têm conhecimento sobre o uso dessas ferramentas, ficam impossibilitadas de avaliar, questionar ou contestar de forma adequada as informações geradas pela inteligência artificial. A criação de um selo informativo garante que as partes sejam devidamente informadas sobre o emprego de IA na motivação das decisões, possibilitando um questionamento mais fundamentado e eficaz. Além disso, oferece às partes a oportunidade de expressarem sua concordância ou discordância em relação ao uso dessa tecnologia no processo decisório.

Responsabilidade e accountability

É fundamental que o juiz continue sendo o único responsável pela decisão final, mesmo com o uso de ferramentas de IA para auxiliar sua análise. O selo reafirma essa responsabilidade, deixando claro que, embora a tecnologia tenha sido utilizada, a decisão é humana e foi revisada criticamente pelo magistrado, o único capaz de levar em conta nuances éticas, contextuais e sociais que um sistema de IA pode não captar.

As partes têm o direito de que seu processo seja julgado por um ser humano, e não por um algoritmo. A decisão judicial envolve a formulação de juízos de valor sobre atos, fatos e interesses que fazem parte da realidade. Como destacam Cláudia Toledo e Daniel Pessoa, "o algoritmo não tem a habilidade de avaliar um dado como bom ou mau, justo ou injusto. Seu código simplesmente reproduz a avaliação feita pelo desenvolvedor ao associar determinado dado com certo modelo de resultado entendido (pelo desenvolvedor) como bom, positivo, correto" (TOLEDO, Claudia; PESSOA, Daniel. O uso de inteligência artificial na tomada de decisão judicial. Revista de Investigações Constitucionais, Curitiba, vol. 10, 1, e 237, jan./abr. 2023).

Verificação de fatos e prevenção de vieses

Ferramentas de IA podem cometer erros ou reproduzir vieses presentes nos dados que as alimentam. O uso de um selo permitiria às partes e seus advogados saber da influência da tecnologia, possibilitando uma revisão mais cuidadosa dos fatos e dos argumentos apresentados. Dessa forma, seria possível identificar e corrigir eventuais falhas ou preconceitos que poderiam comprometer a imparcialidade da decisão.

Fortalecimento da confiança no Judiciário

A incorporação de tecnologias inovadoras no Judiciário é um processo que pode gerar inseguranças na sociedade. Para evitar que o uso de IA seja percebido como um fator de desumanização das decisões judiciais, o selo tem como objetivo garantir que essa utilização seja feita de forma transparente e subordinada à revisão humana. Assim, o selo fortalece a confiança no sistema de justiça, mostrando que a tecnologia é um recurso de apoio, e não um substituto da atuação judicial.

Compatibilidade com os princípios éticos do Judiciário

A ética judicial exige que os magistrados ajam com independência, transparência e compromisso com a justiça. O uso de IA sem a devida informação pode comprometer esses princípios, especialmente porque implica na adoção de fundamentos cujas fontes não são plenamente atribuídas ao juiz. Um selo que informe o uso de IA garante que o processo decisório continue alinhado aos padrões éticos esperados da magistratura.

Contrapontos e reforço da necessidade do selo

Alguns argumentam que o uso de um selo poderia burocratizar o processo judicial, aumentando a carga administrativa dos magistrados e atrasando as decisões. No entanto, a necessidade de transparência e responsabilidade supera esse possível inconveniente. O selo não deve ser visto como uma burocratização desnecessária, mas como uma ferramenta para proteger os direitos das partes e fortalecer a legitimidade do sistema judicial.

Outro argumento contrário é que a IA é apenas uma ferramenta de apoio, assim como livros ou bases de dados, e que, portanto, não seria necessário informar seu uso. Contudo, diferentemente de livros ou bases de dados, a IA pode introduzir vieses ou falhas não identificáveis de imediato. Informar seu uso é fundamental para garantir que as partes possam questionar a influência da tecnologia e, se necessário, apontar erros ou alucinações que comprometam a decisão.

Há também o receio de que o uso de IA seja interpretado de forma equivocada, gerando desconfiança na sociedade. Porém, a solução para essa possível desconfiança é justamente a transparência. Quando o Judiciário mostra que a IA é usada como um recurso de apoio, subordinado à análise crítica do magistrado, e não como um substituto do julgamento humano, a confiança é fortalecida, e não enfraquecida.

Especificação da IA utilizada

É essencial que o selo diga qual ferramenta de inteligência artificial foi utilizada no processo decisório. Isso inclui informar o nome, o modelo, a versão, a linguagem, o fabricante e outros detalhes técnicos relevantes. Tal medida visa permitir que as partes possam avaliar as capacidades e limitações da ferramenta, além de verificar se houve atualizações ou eventuais falhas conhecidas.

A diferenciação entre tipos de IA é essencial para uma discussão mais precisa sobre a necessidade de um selo de transparência. Existem diversas aplicações de IA no Judiciário, desde algoritmos que auxiliam na triagem de processos até ferramentas que fazem previsões sobre reincidência criminal ou determinam padrões de jurisprudência. Cada uma dessas tecnologias tem diferentes níveis de impacto sobre as decisões judiciais. Por exemplo, algoritmos preditivos de risco podem ter consequências mais graves em termos de vieses e erros do que uma ferramenta que apenas organiza dados processuais. Assim, o selo pode ser adaptado conforme o tipo de IA envolvida, permitindo maior clareza e controle sobre como a tecnologia foi utilizada.

Colaboração interdisciplinar

Para assegurar o uso responsável da inteligência artificial no Judiciário, é imprescindível a colaboração interdisciplinar entre juristas, academia, cientistas de dados, engenheiros e especialistas em ética. O entendimento técnico dessas ferramentas vai além do campo jurídico, exigindo o suporte de especialistas para garantir que os magistrados compreendam as limitações, riscos e vieses da IA.

A criação de comitês consultivos interdisciplinares no Judiciário permitiria uma avaliação técnica contínua das ferramentas de IA, além de capacitar os profissionais do Direito sobre seu uso. Com a participação de especialistas, seria possível prevenir erros e garantir que o uso de IA seja transparente, ético e alinhado aos princípios fundamentais do Estado Democrático de Direito.

Conclusão

A automação baseada em inteligência artificial está transformando economias e sociedades, levantando questões não apenas sobre o futuro do trabalho, mas também sobre o sentido da vida humana (COECKELBERGH, Mark. Ética na inteligência artificial. Ubu Editora. Edição do Kindle, 2023, p. 109).

No Judiciário, essa transformação torna ainda mais urgente a adoção de um selo que informe o uso de IA nas decisões judiciais. Esse selo é fundamental para garantir a transparência, a responsabilidade e a integridade do sistema, permitindo que as partes compreendam e possam contestar a influência da inteligência artificial nas decisões que impactam seus direitos.

Embora possam surgir objeções e desafios na implementação, a prioridade deve ser proteger os direitos das partes e garantir uma revisão crítica das decisões. A inteligência artificial, por mais avançada que seja, nunca poderá substituir a ética e o julgamento humano. O selo representaria um compromisso claro do Judiciário para assegurar que as decisões produzidas com auxílio de IA sejam transparentes, coerentes e passíveis de revisão em todas as suas etapas.

Em um mundo onde a inteligência artificial redefine a vida humana, fazendo coisas que nunca esperávamos, a adoção de um selo de IA nas decisões judiciais é um passo crucial para garantir que a justiça, além de eficiente, seja também transparente, ética e profundamente humana.