ChatGPT e outros modelos de linguagem de larga escala: desafios para a responsabilidade civil

Wittgenstein já escreveu que “os limites de minha linguagem significam os limites do meu mundo”¹. De fato, o desenvolvimento de aplicações voltadas ao processamento de linguagem natural sempre foi um desafio, pois algoritmos capazes de “compreender” solicitações e demandas humanas com a sensibilidade que somente um outro humano consegue internalizar é algo que encanta, há décadas, pesquisadores de todo o planeta. Entretanto, até o momento atual, nunca se conseguiu desenvolver um programa sofisticado o suficiente para cumprir tal objetivo.

Há quem se reporte à nomenclatura Artificial General Intelligence (AGI) para descrever o hipotético fenômeno transformador da singularidade tecnológica – em que tal propósito será alcançado –, especialmente a partir da pujança de técnicas mais avançadas, como o aprendizado profundo (deep learning), que fomenta sistemas ditos “generativos”, porquanto baseados em redes neurais recorrentes (recurrent neural networks, ou RNNs) ou em transformers (modelos de linguagem de larga escala com aplicação no processamento de linguagem natural), o que torna essa realidade mais instigante, especialmente na análise de suas consequências, que são muitas – algumas empolgantes e desafiadoras – ao mesmo tempo que seus riscos representam grandes percalços para a Ciência do Direito.

O que não se pode negar é que a mudança de paradigma² vislumbrada desde o início deste novo período tem um substrato essencial: a informação. Tudo muda com Alan Turing e a famosa problematização (Entscheidungsproblem)³ que inspiraria suas investigações posteriores, a partir das quais buscava investigar o potencial de uma máquina para processar informações a ponto de gerar respostas da mesma forma que um humano o faria⁴. Em síntese, esperava-se que o processamento imbatível dos microprocessadores permitisse à máquina, eventualmente, se “emancipar” e, de fato, emular o comportamento humano. O que Turing não esperava era que os conceitos exatos e herméticos da matemática seriam incapazes de, no teste, permitir às máquinas ludibriar, mentir e dissimular, o que tornava fácil a detecção de respostas humanas em comparação às das máquinas.

Não obstante, sistemas contemporâneos de inteligência artificial, com destaque para o Generative Pre-Trained Transformer (GPT), já se demonstraram capazes de superar o “Teste de Turing” (e muitos outros testes similares, como o Winograd Schema⁵) e até mesmo exames realizados por humanos, a exemplo de exames para o exercício de profissões como a de médico ou de advogado, nos Estados Unidos da América⁶.

Se a informática marcou um novo estágio de poder computacional e de desenvolvimento de hardware, o acúmulo informacional foi o responsável por ‘alimentar’ esses novos equipamentos e fomentar o avanço de estruturas informacionais a partir do software. Nesse contexto, a solução para o Entscheidungsproblem passaria, necessariamente, pelo enfrentamento das principais objeções à proposta de que máquinas podem ‘pensar’. Mais do que um teste, era preciso que se tornasse viável o que Turing batizou de “jogo da imitação”⁷: um cenário no qual determinada máquina se tornasse capaz de enganar um terço de seus interlocutores, fazendo-os acreditar que se trataria de um ser humano⁸. Estaria tal máquina ‘pensando’?

Esse único questionamento desencadeou diversas teorizações acerca da superação das diferenças entre humanos e máquinas (human-machine divide)⁹ e dos dilemas de desenvolvimento e evolução da inteligência artificial¹⁰. É possível dizer que, no atual estado da técnica, ainda não é factível a conclusão de que um algoritmo possa se tornar ‘inteligente’¹¹. Nos dizeres de Howard Gardner, “pode-se concluir que a habilidade lógico-matemática não é um sistema tão “puro” ou “autônomo” como outros revisados ??aqui, e talvez deva contar não como uma única inteligência, mas como algum tipo de inteligência supra ou mais geral”¹².

O exemplo do ChatGPT – que nada mais é que uma ferramenta comercial oferecida pela OpenAI para o processamento de comandos de texto (prompts) que acionam o modelo de linguagem de larga escala transformador – é apenas uma singela demonstração dos resultados que se pode atingir com a maturação de sistemas capazes de “se desenvolver”, com rapidez, pela evolução propiciada pelo machine learning a partir de quantidades colossais de dados.

Nesse cenário, o conhecimento da Ciência de Dados se torna relevantíssimo, pois é nesse campo multidisciplinar que se concentra o estudo de todos os aspectos dos dados, desde sua geração até seu processamento para convertê-los em uma fonte valiosa de conhecimento¹³ e de fomento à análise preditiva, que utiliza técnicas estatísticas¹⁴ e de aprendizado de máquina (machine learning) para “prever” resultados¹⁵. Isso pode ser útil em diversos contextos, tais como a análise de dados históricos, o mapeamento de decisões judiciais pretéritas para identificar padrões e estimar a probabilidade de sucesso de um caso, ou mesmo a análise de texto jurídico. De modo geral, com a Ciência de Dados, é possível extrair informações significativas de grandes volumes de textos jurídicos, como leis, regulamentos, contratos, pareceres e decisões judiciais e a análise desses conteúdos pode propiciar a identificação de tendências, a análise e interpretação de determinados termos legais e até mesmo a automatização de tarefas.

No campo do Direito, tanto os analistas de dados quanto os cientistas de dados desempenham papéis importantes na análise e interpretação de dados jurídicos, permitindo uma compreensão mais profunda de questões complexas, avaliação de resultados e apoio à tomada de decisões fundamentadas. Noutras palavras, profissionais do Direito inseridos na complexa sociedade da informação que atingiu seu apogeu em pleno século XXI não costumam desenvolver tais competências e habilidades, ao menos não tradicionalmente¹⁶. Desse modo, almejando indicar algumas habilidades¹⁷ necessárias para o futuro¹⁸, pondera-se a necessidade de transparência e, desejavelmente, explicabilidade para que possa assimilar parâmetros extraídos da heurística computacional e das inferências causais de modelos de linguagem.

Tais são conceitos relevantes para o Direito, pois ajudam a compreender e justificar decisões de forma mais transparente e fundamentada¹⁹. A transparência, pelo fato de explicitar a utilização de determinado conjunto de dados ou de uma técnica específica de processamento. E, de modo geral, a explicabilidade pelo fato de se referir à capacidade de “entender” e explicar como um modelo ou algoritmo de tomada de decisão chega a determinadas conclusões²⁰.

No Direito, a explicabilidade é essencial, pois os sistemas jurídicos são baseados no princípio da justificação. Assim, ao aplicar técnicas de Ciência de Dados, é importante que os resultados e as decisões geradas sejam compreensíveis e possam ser explicados de forma clara e acessível, tanto para os profissionais do Direito quanto para os cidadãos envolvidos no processo.

É de se notar, nesse sentido, que transparência e explicabilidade (art. 3º, VI) são dois dos vários princípios definidos no texto do substitutivo da Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre IA (CJSUBIA)²¹, que realizou diversas reuniões e audiências públicas nos trabalhos de elaboração do substitutivo, que foi apresentado em dezembro de 2022 e inspirou o texto final do PL 2.338/23²².

Se os algoritmos não são capazes de “pensar”, mas são suficientemente avançados para tomar decisões “resultantes de uma combinação de inputs de programação não originária”²³, ao menos uma leitura ampliativa do conceito de ‘responsabilidade’ poderá nortear a solução de problemas como “a opacidade decisória, a falta de explicação quanto aos critérios utilizados e a herança de inputs viciados, enviesados e preconceituosos, o que culmina na produção de discriminações injustificadas”²⁴.

Enfim, não se tem respostas definitivas para todos os desafios inaugurados pela profusão do acesso aos transformers (e outros modelos de linguagem de larga escala, como o ChatGPT), e o tema ainda suscitará muitos questionamentos, mas o avanço rumo à consagração da função precaucional da responsabilidade civil parece ser realmente necessário para a compatibilização do desenvolvimento tecnológico – galopante e irrefreável – com a necessária proteção aos direitos fundamentais (e a máxima prevenção dos vieses algorítmicos), especialmente a partir da proliferação de uma cultura de accountability.

_____________

1WITTGENSTEIN, Ludwig. Tractatus Logico-Philosophicus. 2. ed. Londres: Routledge Classics, 2001, p. 68, tradução livre. No original: “The limits of my language mean the limits of my world”.