Os desafios estratégicos do G20 (reunião das maiores economia do mundo), que acontece no Brasil, vão além do temário da geopolítica, da economia e do socioambiental. Incluem outros temas, como viabilizar a interface entre justiça e as tecnologias de IA GEN - Inteligência Artificial Generativa. Esse debate já reuniu representantes das Supremas Cortes dos países membros que compõem esse fórum econômico, no Rio de Janeiro, para tratar das preocupações desse processo diante das novas demandas voltadas à eficiência do judiciário e como garantir transparência, proteção de dados pessoais, princípios éticos, mitigação de riscos, combinados com a utilização dessas ferramentas tecnológicas de IA. Esse debate embute uma pergunta crucial: Como adaptar-se e inovar nos processos judiciais e na administração judicial, superando os desafios tecnológicos?
Neste ano, o CNJ divulgou o relatório sobre o “O Uso da Inteligência Artificial Generativa no Poder Judiciário Brasileiro” ¹, sem a perspectiva de ser um guia orientador. O propósito, de acordo com o sumário executivo, foi constatar que os “riscos de erros, opacidade, discriminação, violações à privacidade e à proteção de dados, impactos sobre o trabalho e o meio ambiente, não são suficientes para lidar com os desafios trazidos pelo desenvolvimento e pelo emprego de IAGs, o que justifica a revisão de políticas de governança nos tribunais e da regulamentação vigente do CNJ”. O relatório traz como destaque pesquisa realizada com magistrados e servidores sobre como avaliam o uso das ferramentas tecnológicas de IA Gen. A maioria dos respondentes aponta a pesquisa jurisprudencial como sendo seu principal uso, preterindo outros, como predição de decisões, elaboração de minutas de documentos etc. As dificuldades para ampliar o uso da IA Gen no Judiciário brasileiro está ligada à necessidade de treinamento, falta de confiança e de regulamentação, dentre outras. Nesta esfera de uso tecnológico, o CNJ promulgou a resolução 332/20 e a portaria 271/20 sobre o uso da IA na prática judicial.
Embora o Brasil seja cauteloso quanto ao uso da IA Gen na justiça, crescem os exemplos de países que estão traçando uma linha de orientação sobre o uso do IA no Judiciário, ajudando a afastar possíveis temores. Entre os países que já definiram diretrizes sobre o uso do IA Generativa no segmento jurídico estão Cingapura² e a Nova Zelândia³.
Editado em outubro deste ano, o guia da Suprema Corte de Cingapura atinge todos os tribunais e instância daquele país. O documento destaca que os usuários do Tribunal serão responsáveis por qualquer conteúdo gerado por IA Gen, a não ser nos casos de ser solicitado pelo tribunal. Os operadores do direito devem levar em conta se o documento é preciso, relevante e se não viola direitos autorais. O usuário também pode ser solicitado a revelar ao tribunal se usou IA Gen para preparar os documentos legais, fazer uma declaração de conformidade com as diretrizes e declaração juramentada.
Já na Nova Zelândia, as diretrizes são detalhadas e orientam juízes, oficiais de justiça, membros de tribunais e advogados. Inicialmente, faz um alerta sobre as limitações da tecnologia de IA Gen, lembrando que não são motores de busca, mas geram um algoritmo baseado nas solicitações (prompts) e que a resposta será a combinação mais provável diante dos dados em que foram treinados: Os chatbots da AI Gen atualmente disponíveis parecem ter tido acesso limitado a dados de formação sobre a legislação da Nova Zelândia ou sobre os requisitos processuais aplicáveis ??nos tribunais da Nova Zelândia. “ A qualidade de quaisquer respostas que você receber dependerá de como o chatbot GenAI foi treinado, da confiabilidade dos dados de treinamento e de como você interage com o chatbot GenAI relevante, incluindo a ‘qualidade’ das solicitações inseridas. Mesmo com as melhores sugestões, o resultado pode ser impreciso, incompleto, enganoso ou tendencioso”, alerta o guia.
As orientações para os operadores jurídicos na Nova Zelândia, ainda incluem as melhores práticas de segurança para uso nos tribunais, ressaltando que devem privilegiar dispositivos de trabalho e não pessoais para acesso a sistemas de IA Gen. Há ressalvas para advogados, que devem ter “obrigação profissional de garantir que qualquer material que apresente ao tribunal (independentemente de como é gerado) seja preciso”, especialmente pesquisas e citações geradas pela IA Gen.
Se Cingapura tem diretrizes neutras diante do uso da IA Gen no Judiciário, Estados norte-americanos, como a Califórnia, consideram essa tecnologia uma prioridade para justiça e divulgaram um FAQ (perguntas e respostas) para alinhar o debate. De acordo com o setor responsável pelos esforços da implantação da IA na justiça californiana, o jurisdicionado pode ser beneficiado, a despeito dos riscos: “Teremos que abordar os riscos da IA ??generativa para preservar a confiança e a credibilidade do público. Os dados usados ??pela IA não são imaculados — eles incluem preconceitos baseados em gênero, etnia, política e valores. Também há riscos em torno da transparência e da responsabilização. Até mesmo os engenheiros que desenvolvem modelos de IA dizem que não têm muita certeza de como eles funcionam. Isso é preocupante porque o poder judiciário deve ser responsável e transparente”. O próximo passo do Judiciário da Califórnia é criar diretrizes sobre questões éticas geradas pela IA Gen.
Não é apenas a justiça da Califórnia que faz perguntas e busca respostas para a interface dos sistemas de IA na esfera legal. Toda geração Geek sabe que mais importante do que a resposta é a pergunta e isso fica claro no livro “clássico” dos geeks: “O Guia dos Mochileiros da Galáxias”, no qual seres pandimensionais perguntam a um megacomputador “Qual o sentido da vida, do universo e de tudo?”. E o computador responde que levaria 7,5 milhões de anos para calcular a resposta. No prazo previsto, a população retorna para receber a resposta, que foi simplesmente “42”. A resposta desaponta, é considerada insuficiente, questionada e o sistema retruca que o erro estava na pergunta inadequada. Será que já temos a pergunta certa sobre como a IA Gen pode ajudar a justiça planetária a ser mais eficiente ou ainda buscamos por ela?
Há também casos isolados de uso da IA Gen que impulsionam seu uso no sistema judiciário. É o caso do juiz colombino, Juan Manuel Padilha, que admitiu ter usado o ChatGPT para tomar sua decisão sobre se o seguro de uma criança autista deveria cobrir todo o tratamento médico, uma vez que os pais da criança não tinham condições econômicas. Uma das respostas do Chatbot foi “que segundo as leis colombianas menores de idades com autismo estão isentos de pagar por suas terapias”. O juiz argumentou que ao fazer perguntas para o ChatGPT, não deixou de ser juiz. Surgiram muitas críticas, mas houve apoio do Supremo Tribunal da Colômbia no sentido de que a tecnologia pode ser um instrumento capaz de auxiliar um magistrado a julgar melhor, sem esquecer que o administrador da justiça, ao final, deve ser sempre um ser humano.
Decisões institucionais e pessoais estão auxiliando a construir uma resposta para as tecnologias de IA Gen no Judiciário. Sem dúvida, várias questões devem ser colocadas na balança, como a confiança no sistema, nível de vieses dos grandes sistemas de linguagem e que impactos podem gerar na rotina das cortes e nos direitos do jurisdicionado, sendo que o uso responsável por parte dos operadores do direito constitui um peso fundamental para a gestão ética e transparente da IA Gen dentro do processo legal.
______
1 Disponível aqui.
2 Disponível aqui.
3 Disponível aqui.
4 Disponível aqui.