O humano como fundamento tecnológico: a única possibilidade

Em sessão no dia 17/10, o Ministro Luís Roberto Barroso, Presidente do STF e do Conselho Nacional de Justiça - CNJ, foi enfático ao afirmar que o investimento em tecnologia da informação será uma das prioridades em sua gestão frente ao Poder Judiciário. A inteligência artificial terá um papel de protagonismo, o que foi evidenciado pelo Ministro ao informar que provocou as big techs a desenvolver uma inteligência artificial generativa apta a solucionar diversas demandas dentro da estrutura do Judiciário.

A inteligência artificial já se faz presente nos meandros judiciais, e conforme dispõem as fontes de dados do próprio CNJ, verificam-se dezenas de iniciativas em desenvolvimento nos Tribunais por todo o país. A mudança para o paradigma algorítmico não irá ocorrer, já ocorreu e é uma realidade. Sentimos agora o efeito dessa transição e os sinais de que a entrega da tutela jurisdicional é feita por uma estrutura tecnológica, instrumentalizada por ferramentas automatizadas e com inteligência artificial. Um crescente corpo de técnicos e profissionais da informática tem como finalidade oportunizar ao magistrado analisar os casos e proferir decisões de forma mais eficiente, considerando os critérios de tempo e custo.

Nós humanos somos uma fina camada no motor de processamento de dados e automatização de atividades que se desenvolve no conjunto de soluções tecnológicas que passa a ser regido pela inteligência artificial.

Nesse cenário, o desafio que se coloca é: como manter o humano como fundamento nessa avalanche tecnológica que se apodera de funções antes exclusivamente humanas?

Human centricity ou centralidade no humano é um conceito que coloca o ser humano no centro de qualquer processo, decisão ou sistema. No campo da tecnologia e da inteligência artificial, a centralidade no humano significa que a tecnologia deve ser desenvolvida e implementada de uma maneira que beneficie as pessoas, respeite os direitos humanos e seja governada por normas éticas.

A centralidade na pessoa humana é um dos fundamentos do projeto de regulação da inteligência artificial no Brasil, conforme estabelecido no PL 2338/23 em seu Artigo 2º. Isso significa que o desenvolvimento, implementação e uso de sistemas de IA no país devem ter como foco o ser humano e respeitar sua dignidade.

Essa abordagem está alinhada com a legislação europeia sobre inteligência artificial, Artificial Intelligence Act ou AI Act, que define sistemas de IA como "software desenvolvido com uma ou mais técnicas e abordagens que pode, para um conjunto definido de objetivos humanos, produzir resultados como conteúdo, previsões, recomendações ou decisões que influenciam ambientes com os quais interage".

Ou seja, os sistemas de inteligência artificial devem ter seus objetivos e finalidades definidos e supervisionados por agentes humanos, haja vista que a AI Act enfatiza a necessidade de supervisão humana para sistemas de alto risco (Artigo 14), novamente destacando o papel central dos seres humanos no desenvolvimento e aplicação ética da inteligência artificial.

Para tanto, o domínio do usuário é fundamental para uma tecnologia responsável e ética. As ferramentas tecnológicas devem ser projetadas para capacitar tais usuários, agentes humanos, permitindo que tenham controle e compreensão sobre como as tecnologias operam e como seus dados são utilizados. Além disso, transparência, explicabilidade, responsabilidade e controlabilidade são essenciais. Em outras palavras, as tecnologias devem operar de maneira transparente, ser responsáveis por suas ações e oferecer mecanismos que permitam aos usuários exercer controle sobre elas.

Os sistemas computacionais inteligentes, apesar de sua artificialidade, devem ser pautados pelo padrão humano tanto em seu desenvolvimento quanto em seu ethos, ou seja, em sua razão de ser. Isso significa que a inteligência artificial deve ser projetada e implementada com o ser humano no centro de suas considerações, garantindo que as tecnologias sejam usadas de maneira a beneficiar os seres humanos, respeitando seus direitos e necessidades, e promovendo a sustentabilidade.

Por essa razão, Paolo Benanti, neurocientista e frade franciscano, em seu livro "Human in the Loop: Decisioni Umane e Intelligenze Artificiali" propõe o estabelecimento de uma conexão entre ética e algoritmos, o que ele chamou de algorética, ou ética dos algoritmos - uma simbiose entre valores (ética) e numéricos (algoritmos).

A algorética traduz a necessidade de se desenvolver uma linguagem comum que possa traduzir valores morais em termos computáveis para máquinas, mantendo-se sempre o humano como referência no design do sistema computacional, human in the loop, ou seja, o indivíduo no centro e no decorrer dos processos decisórios da inteligência artificial.

Dito de outro modo, é necessário exigir, axiológica e eticamente, uma centralidade no humano por padrão (human centricity by default), de modo que os sistemas computacionais devam trazer e incorporar computacionalmente os valores necessários a agir em consonância com o alinhamento humano, seus comportamentos, valores e necessidades.

Na área jurídica essa preocupação se torna evidente e imperiosa. A inteligência artificial se apresenta cada vez mais, e como bem ressaltado pelo Ministro Barroso, como um recurso complementar à atividade do operador do direito, visto que oferece eficiência na análise de grandes volumes de dados, na identificação de padrões nas decisões judiciais, e na execução eficiente de tarefas rotineiras. Mas nem por isso a inteligência artificial deve ser vista como uma substituição do humano, mas sim como uma extensão das capacidades humanas, uma ferramenta, sempre guiada por princípios éticos e pelo respeito aos direitos fundamentais.

Afinal, como ressaltado na Carta da XV Conferência Estadual da Advocacia Rondoniense, o cerne das profissões jurídicas é e sempre será "o fator humano, suas necessidades, direitos e dignidades". A perspectiva antropocêntrica deve guiar nossas inovações tecnológicas, garantindo que elas sejam criadas e usadas de forma ética e responsável. A algorética e a centralidade no humano não são, neste sentido, apenas abstrações filosóficas, mas valores práticos que devem ser implementados na concepção, desenvolvimento e operação de sistemas de inteligência artificial.

À medida que avançamos em direção a sistemas cada vez mais autônomos e inteligentes, o risco de desumanização e alienação cresce em igual proporção. Portanto, é necessário que as considerações éticas (e algoréticas), sociais e humanas estejam no cerne do desenvolvimento tecnológico. A tecnologia pode ser nossa extensão, mas somos nós, irrevogavelmente, o núcleo a partir do qual ela deve emanar. E nesta vastidão de possibilidades digitais, deixamos nossa impressão mais indelével não em bits, mas no etéreo tecido do que significa ser humano.