COLUNAS

  1. Home >
  2. Colunas >
  3. Humanidades e Novas Tecnologias >
  4. Primeiros apontamentos sobre ética e Direito na encruzilhada da Inteligência Artificial

Primeiros apontamentos sobre ética e Direito na encruzilhada da Inteligência Artificial

sexta-feira, 19 de agosto de 2022

Atualizado às 07:56

Não é difícil verificar que no Direito permanece vigorando o predomínio da técnica, baseada em uma forma de pensamento positivista no sentido mais rasteiro, isto é, o legalismo, em convergência com a generalizada, exponencialmente crescente robotização e a mecanização do pensamento. Isso em detrimento dos aspectos fundamentais a serem levados em conta na tomada de decisões judiciais, principalmente nos denominados "hard cases", aqueles que se pode traduzir em colisões entre direitos e princípios jurídicos fundamentais. Também não suscita maiores dificuldades perceber a insuficiência, para uma solução adequada, no sentido de proteção da dignidade da pessoa humana, de uma simples fórmula matemática algorítmica, como na conhecida proposta de Robert Alexy. Desconsidera-se com isso que o Direito e a Ciência, e o Direito enquanto Ciência possuem uma história, e que a própria cientificidade do Direito depende também do elemento empírico, da experiência (Pontes de Miranda, Miguel Reale), e logo, novamente, da história, de natureza histórica, o que escapa necessariamente, ao se tentar reduzir a realidade jurídica a fórmulas matemáticas, ou seja, a um simulacro.

Revela-se aqui uma crise de paradigmas no Direito e a necessidade de uma transmutação, a fim de encontrarmos alternativas a uma já anunciada morte do homem e da história, pela perda da autopoiese, tanto aquela social (Luhmann), como aquela biológica (Maturana), sendo esta ameaça a uma condição da nossa possibilidade de existência, ante a substituição por máquinas e robôs. Isto porque, assim na natureza como em suas projeções, como somos nós e nossas sociedades, tudo o que não é mais relevante e não tem função acaba sofrendo mutações ou é descartado com o tempo.

Entendemos, o A. e Paola Cantarini (v., e.g., nossa Teoria Poética do Direito, Rio de Janeiro: Lumen Juris, 2015), que o Direito depende, para sua evolução e reconstrução "in fieri", da "poiesis", sendo tal uma característica marcante dos seres humanos já como seres biológicos, pois sua maior fragilidade o faz depender da criatividade para sobreviver, logo, também da sensibilidade dos que se relacionam com e através do Direito.

Portanto, o Direito, apesar da predominância de sua compreensão e aplicação de forma linearmente técnica, limitado a ser concebido apenas como, no máximo, uma tecnologia, desprovida de um verdadeiro embasamento científico, em uma ciência suficientemente desenvolvida para dar estar à altura desta tarefa, vai se afastando cada vez mais da "poiesis", da poética, da sensibilidade, da criação, ocorrendo atualmente, em grande parte, apenas uma eterna repetição do igual, da mesmice, "ad nauseam", pois nada se cria, onde tudo se copia e cola. Cada vez mais se utiliza da linguagem automatizada e da aplicação da inteligência artificial no Direito, sem que estejam suficientemente analisados os impactos, as consequências possível e efetivamente danosas.

Sabe-se que os algoritmos trabalham com probabilidades e não com certezas, mas tal fato muitas vezes é desprezado ou subvalorizado pelos aplicadores do Direito na busca de uma razão geométrica na interpretação e concreção do Direito.  Ou, pior, quando desistem de qualquer razão e afirmam sua mera força amparada em um poder que assim se deslegitima.

Como já amplamente noticiado e discutido, por exemplo, há algoritmos com base nos quais a inteligência artificial atua e toma decisões, racistas ou discriminatórias. Isto ocorre por captarem dados que circulam na sociedade, em nossos sistemas de informações e de comunicações - lembrando que na teoria de sistemas sociais de Luhmann a sociedade e tais sistemas se identificam -, assim reproduzindo e mantendo a existência do racismo estrutural nesta sociedade, mundial, assim contaminando com tais dados os algoritmos utilizados por inteligência artificial para a tomada de decisões de suma importância e relevância, como as que vêm cada vez mais sendo adotadas no âmbito do Poder Judiciário.

O motor de diversas aplicações via inteligência artificial funciona basicamente da seguinte forma: o motor de tal programa é um algoritmo, um conjunto de instruções que se aplica a um conjunto de dados. Dependendo de quem construa esses modelos de algoritmos, e dos dados coletados que os alimentam, o resultado será um ou outro. Neste sentido importante estudo de Virginia Eubanks, professora de Ciências Políticas da Universidade de Albany, autora do livro "Automating inequality", investiga como as ferramentas tecnológicas perfilam, controlam e punem os pobres. Na mesma linha de raciocínio crítico, pesquisa da lavra de professores da Universidade de Boston demonstra que os sistemas de aprendizado das máquinas (machine learning) têm vieses sexistas, pois na fonte de dados mais comum, a internet, já há diversas associações de conceitos que induzem ou ensinam as máquinas a estabelecer certas correlações como verdadeiras, sem uma mediação de seu conteúdo, como, por exemplo, a relação "dona de casa = mulher, gênio = homem".

Considerando-se o Direito enquanto Ciência, tal forma de tomada de decisão pela inteligência artificial nos parece que seria uma espécie de retorno ao entendimento de que as ciências, baseadas na observação de regularidades na ocorrência de fatos, permitindo elaborar leis mecanicistas gerais explicativas da realidade. Contudo, deve-se estar atento que tais fatos eram recortados do conjunto da realidade, para assim dar-se a eles um tratamento analítico, mas limitados e reduzidos a uma determinada localização espaço-temporal.

Trata-se de um tipo de aplicação próprio da física mecanicista-newtoniana, superada atualmente pela física quântica e relativista, a demonstrar a fragilidade de sua construção teórica e aplicação, utilizando-se de observações obtidas em escala limitada, como a que se observa na utilização de um banco de dados, sabe-se lá construído por quem, na construção de uma decisão jurídica por meio de inteligência artificial, ainda mais na seara do Direito, por desconsiderar que o Direito e as ciências no geral possuem história.

 Vislumbra-se ainda outra questão, bem problemática: a inteligência artificial, por não possuir uma consciência e uma alma, não tendo a possibilidade do maravilhar-se e do assombrar-se, limitada que é a uma perspectiva inodora, inorgânica e mecanicista da vida, atuaria então de forma contrária à das ações tipicamente humanas. Em assim sendo, ela seria indicada e apta a tomar decisões que envolvem não apenas o lado racional da inteligência, mas sobretudo o imaginário, mais que isso, o imaginal (Henry Corbin), a sensibilidade, as emoções e as intuições?

É característico desta forma de "conhecimento", típica da ciência, utilizar-se de signos nos cálculos matemáticos empregados em nossa sociedade da informação, onde se produz cada vez mais informação e em uma relação inversamente proporcional, cada vez menos conhecimento reflexivo, resultado do esforço para nos comunicarmos. Há o aperfeiçoamento de uma racionalidade meramente técnica, vazia, alienada, sem a produção de saber conteúdo cognitivo algum, segundo já Edmund Husserl denunciara em seus derradeiros escritos sobre a crise da civilização científica europeia, produzidos sob o impacto da chamada, posteriormente, Primeira Guerra Mundial.

A partir, principalmente, de Newton, o padrão de ciência se altera e se vai desqualificar como ciência o que até então se tinha como verdadeira ciência. Tal processo é bem configurado na química, no século XVIII, como bem relata Isabelle Stengers (em L'invention des sciences modernes, Paris: Flammarion, 1995). É o que Foucault vai caracterizar como "etopoético", isto é, "alguma coisa que tem a qualidade de transformar o modo de ser de um indivíduo" (L'Herméneutique du Sujet, Paris: Hautes Études/Gallimard/Seuil, 2001, p. 227).  

 Daí que então a alquimia era química, e não havia separação entre o sujeito e o objeto do estudo, do conhecimento. O sujeito está envolvido na sua própria transformação através dos seus estudos, sendo a conclusão almejada na alquimia, a pedra filosofal buscada, a própria transformação pessoal durante tal processo. Não havia distinção entre o sujeito e o objeto até o surgimento da química analítica, cartesiana, a partir das ciências herméticas e da alquimia. Antigamente, portanto, o objetivo da ciência não era um objetivo econômico, utilitário como vem a se transformar após Newton, com a apropriação dos descobrimentos científicos pela ideologia propalada pelos adeptos de John Locke e Adam Smith.

A informática e a inteligência artificial com sua utilização de algoritmos para a produção de decisões judiciais baseiam-se na matemática, ou seja, na lógica simbólica, bem diferente da lógica formal e de outros modos de racionalidade devidamente catalogados já na obra aristotélica. A inteligência artificial é um simbolismo, um pensamento abstrato, formalista. Sob o ponto de vista do formalismo não há tanta diferença entre o Direito e a Matemática, pois ambos são formalismos, expressos em letras, números e normas, ambos se traduzem em fórmulas, sem que tais fórmulas sejam capazes de traduzir a exuberância da vida, em especial aquela humana.

Devemos então promover a reconciliação das ciências e das religiões, na busca de mais convergências do que diferenças. Esta é uma harmonização que se pode considerar um dos fundamentos daquela harmonização crucial para o nosso bem viver, também individual, como vem defendendo convincentemente em suas obras Vito Mancuso, considerando também a contribuição sapiencial de tradições não-ocidentais, o que consideramos da mais alta relevância (v.g., em I quattro Maestri, Milão: Garzanti, 2020).  

Daí a importância incontornável, assim como a urgência mesmo, de nos dedicarmos a desenvolver uma ética que possa nos amparar em face dos avanços da IA, e esta há de ser uma ética que goze de aceitação assim como as ciências, sendo um requisito para ser aceita em uma sociedade que substituiu a religião pela ciência como forma de validação de suas crenças, no que se pode dizer que andou bem, por diversos motivos, mas também há motivos para o descontentamento, a começar pelo "desencantamento" (Entzauberung, literalmente, "desmagificação") a que se refere classicamente Max Weber. Politicamente, a ciência encontra no regime democrático sua melhor contrapartida, havendo tal regime de ser entendido como aquele em que prevalecem as melhores razões, assim reveladas em um debate franco e aberto. Com as mesmas características também há de se qualificar a ética que necessitamos para bem embasar uma prática do Direito que possa dar conta dos desafios da IA e outros desenvolvimentos tecnológicos, sendo que a motivação última repousa em crenças, logo, tem caráter genericamente ideológico e, especificamente, religioso. Aqui vale lembrar o projeto de Espinosa, de fundamentar uma ética more geométrico, congenial e diverso a outros de seu tempo, desenvolvidos sob o impacto direto da filosofia cartesiana e dos desenvolvimentos então recentes da física, como foi aquele de Hobbes, em que se busca uma explicação da realidade humana a partir do que se conhece daquela realidade subjacente, física, conquanto em Espinosa não se perca a dimensão metafísica, sendo o que o habilitaria melhor a desenvolver as ciências humanas, tal como defendido, por exemplo, por Frédéric Lordon (v.g., em A Sociedade dos Afetos: Por um estruturalismo das paixões, trad. Rodolfo Eduardo Scachetti, Campinas: Papirus, 2015).

O quanto aqui se postula pode então ser caracterizado como uma retomada do que outrora se qualificou de "filosofia do espírito", assim como seu correlato, que era a "filosofia natural". "Espírito" aqui entendido em seu sentido objetivo, com em Hegel, o que é sinônimo de "cultura". É de uma retomada do indissociável vínculo entre ela e o Direito, então, do que se trata, tal como entre nós defendia já em recuada data, com vigor, Miguel Reale, e na atualidade, justamente no contexto de discussões sobre o impacto das novas tecnologias da comunicação, o teórico do direito frankfurtiano Thomas Vesting.