As mudanças tecnológicas agem como um relevante vetor de alteração da dinâmica social e que, junto a outros fatores, posicionam as sociedades contemporâneas em uma outra fase. Assim sendo, não se pode deixar de considerar o impacto que a tecnologia tem causado nas mais diversas áreas. A propagação no uso das tecnologias de comunicação e informação tem aferido mudanças nas relações sociais, nos processos comerciais e organizacionais, nos sistemas de gestão, na educação, e não seria diferente com a área jurídica, notadamente, as relações negociais.
No contexto atual, são inúmeros os contratos utilizados para aquisição de produtos e serviços que podem ser realizados por meio de diversas ferramentas tecnológicas. Vivencia-se a denominada Quarta Revolução Industrial, sendo inegáveis as transformações, quase que instantâneas, trazidas pela utilização da tecnologia. Expressões como "Tecnologia 4.0", 'Industria 4.0", "Direito 4.0" e "Artificial General Intelligence – AGI" são utilizadas para caracterizar essa nova fase. Assim, os dispositivos tecnológicos estão sendo desenvolvidos para se tornarem capazes de operar utilizando uma lógica semelhante ao raciocínio humano, conferindo-lhes certa aptidão para analisar dados, entender e solucionar problemas e, em alguns casos, direcionar a tomada de decisão.
Na década de 1950, o conceito de inteligência artificial foi criado por John McCarthy, cientista da computação, que a definiu como sendo a projeção de uma rede computacional desenvolvida para executar um conjunto definido de ações. Nessa mesma década, Alan Turing apresentou produções científicas individuais que indicavam poder ser a máquina programada para aprender por meio da imitação da inteligência humana.
Assim, a inteligência artificial é um termo amplo que abrange tecnologias desenvolvidas para que as máquinas (ou algoritmos) possam, partindo de dados obtidos, construir raciocínios mais assertivos e rápidos, levando a predições que subsidiam a tomada de decisão. Em algumas situações, observa-se que o nível de sofisticação da tecnologia permite inclusive que a máquina “analise” uma situação e conduza a uma “solução”, mais célere e assertiva, a partir do cruzamento de dados.
A evolução tecnológica disponibiliza dispositivos dotados de sistematização de informações que se assemelham a atividades humanas como “pensar”, “interpretar”, “raciocinar”. Com as informações recebidas, os sistemas que integram a I.A podem, fazendo um caminho semelhante ao utilizado pelo cérebro humano, através de uma rede neural formada por “neurônios artificiais”, escrever um texto científico, redigir um contrato, influenciar pessoas para realizarem compras de um determinado produto ou contratarem um serviço.
Em paralelo, discute-se sobre a proteção de dados pessoais e como é necessária a regulamentação quanto ao uso da I.A. A tecnologia vem sendo utilizada, por exemplo, para avaliar, a partir de dados coletados em diversas bases, a vida financeira de um indivíduo. A partir dessa avaliação, decide-se se determinado indivíduo deve receber um empréstimo de instituição financeira ou não, inclusive com taxas de juros personalizadas. Ou seja, a avaliação de risco de inadimplência deixa de ser de um ser humano, no caso, o gerente da instituição, e passa a ser de um sistema.
As transformações trazidas pela I.A. exigem que seja realizada uma análise apurada por parte do direito contratual, do direito consumerista e da responsabilidade civil. As suas consequências ainda estão sendo observadas e não podem ser previstas com precisão, apesar de haver normas jurídicas que podem ser utilizadas na proteção do consumidor vulnerável.
A modernização traz consigo o risco da ocorrência de danos pouco conhecidos ou totalmente desconhecidos. De acordo com Miragem (2019, p. 15) é "... comum às atividades associadas à tecnologia da informação e sua multifacetada e crescente utilização para uma série de finalidades, a identificação de novos riscos".
O direito civil constitucional possui uma substancial base principiológica, utilizando-se dos valores e princípios constitucionais, como os da liberdade, igualdade, boa-fé, informação, precaução, reparação integral dos danos, entre outros, para orientar as relações no âmbito privado. A importância da constitucionalização do direito civil dá-se pela implementação da denominada sociedade de risco.
O contrato eletrônico de consumo é um tipo de contrato elaborado e executado por um sistema de software. A inteligência artificial faz uso de técnicas de reconhecimento de padrões e correlações significativas para alavancar o comércio. Afirma Lee (2019, p.251) que “quando a força criativa e destruidora da IA está sendo sentida ao mesmo tempo no mundo todo, precisamos olhar uns para os outros em busca de apoio e inspiração”. Ou seja, todos precisam aprender como lidar com essa nova realidade e as suas consequências, o que inclui a existência de danos.
No direito consumerista há princípios que garantem a proteção do consumidor e, eventualmente, de terceiros que não estejam diretamente envolvidos na relação contratual contra os riscos que porventura possam existir. As relações negociais podem e devem se valer dos princípios e regras contidos no Código Civil quando assim for necessário,
Portanto, os princípios comuns a ambos os regimes, em razão da vocação normativa que cada um ostenta, sofrem a calibração das exigências valorativas, cujo resultado é a variação de intensidade de sua aplicação e nas regras que criam à hipótese fática.
...
O ponto de toque entre o direito civil e o direito do consumidor é a seara contratual, ou melhor dizendo, as relações negociais. (Pieroni, 2021, p. 52)
O consumidor, parte vulnerável da relação, não tem a exata compreensão dos riscos advindos desta era digital, que transformou a forma como os contratos são realizados. Esta modificação acarreta a necessidade de uma interpretação das normas jurídicas já existentes, como o Código de Defesa do Consumidor, adequando a realidade transacional tecnológica. De acordo com Divino (2021, p.660)
Da amplitude e da efetividade das garantias asseguradas pelo CDC aos vulneráveis, a possibilidade de que a sociedade da informação se desenvolva para com os entes inteligentes artificialmente é uma tarefa a ser pautada e evidenciada pelos juristas. Nesse momento, deve-se percorrer ao exame das principais atribuições que envolvem os ganhos e riscos para a utilização dessas tecnologias. Deve-se refletir, conscientemente, sobre os interesses e verificar em quais casos poderá o CDC atuar para a defesa dos direitos lesados.
Várias relações contratuais são realizadas entre o homem e a máquina. Mas será que o consumidor possui conhecimento de que está negociando com uma inteligência artificial programada para dar lucro, baseada em dados antes extraídos? Não se pode partir do pressuposto de que todo e qualquer consumidor sabe que há a utilização de uma tecnologia programada a favor do fornecedor. Um dos deveres previstos no CDC é o da informação clara e precisa.
As instituições bancárias, por exemplo, estão substituindo as agências físicas por aplicativos e por “chatsbots”, ou seja, por um programa que leva as pessoas a terem a sensação de que estão interagindo com outra pessoa e não com uma ferramenta tecnológica. Os chatbots tentam simular a conversação como se esta estivesse acontecendo como outro ser humano e não com uma máquina.
A depender, por exemplo, do grau de escolaridade ou do grau de compreensão do consumidor, poderá haver inexatidão nas informações fornecidas por este a máquina; e, até mesmo, a incompreensão dos termos utilizados pela inteligência artificial, o que pode acarretar imprecisões na tomada de decisão. Divino (2021) considera ser a dificuldade na compreensão semântica de termos uma das causas de possíveis danos decorrentes de um pedido incorreto ou de um aconselhamento desfavorável ao consumidor.
A inteligência artificial utiliza-se das informações e do cruzamento destas para influenciar e induzir o consumidor. Assim, é dever do fornecedor, que utiliza a inteligência artificial e a obtenção e cruzamento de dados, arcar com os riscos da sua atividade, sendo este um risco inerente. Desta forma, a responsabilidade pelos danos conhecidos ou que ainda virão a ser observados, é objetiva.
Princípios como o da boa-fé, o da precaução e da prevenção devem ser entendidos como pilares da responsabilização objetiva do fornecedor pelo uso da inteligência artificial nas relações de consumo. Nem sempre o Direito, como ciência e como agente regulador das relações, conseguirá prever ou evitar os danos causados pela modernização e transformação da sociedade.
O princípio da prevenção será aplicado quando o risco do dano for atual, concreto e real. Trata-se do perigo, que é o risco conhecido, como, por exemplo, o limite de velocidade nas estradas ou os exames médicos que antecedem uma intervenção cirúrgica. Já o princípio da precaução deve ser aplicado no caso de riscos potenciais ou hipotéticos, abstratos e que possam levar aos chamados danos graves e irreversíveis. É o “risco do risco”. (Rosenvald, 2017, p. 120)
A modernização da sociedade por meio da tecnologia traz embutido o risco. De acordo com Rosenvald (2017, p. 22), “... O risco é uma característica definidora de nossa era. Tudo se processa ‘reflexivamente’ em uma civilização que ameaça a si própria”. As ações do homem, no campo da inteligência artificial, trazem consequências imprevisíveis. As escolhas realizadas podem gerar danos não almejados. E quem responderá por estes? No caso da relação consumerista, o fornecedor, logicamente.
O reconhecimento e o fortalecimento de procedimentos que conforme padrões de integridade dos envolvidos na atividade digital, sobretudo naquelas voltadas as relações obrigacionais, são medidas que se impõem, como forma de prevenção de riscos de prejuízos e de agressões a direitos subjetivos (SILVA, FRANÇA, 2021 p. 522)
A I.A. é empregada para gerar ganhos de produtividade, o que necessariamente leva a ganhos financeiros para os fornecedores. No entanto, os benefícios financeiros, como por meio do aumento na contratação de um determinado serviço, pela utilização de algoritmos ou outros sistemas, deve observar as regras contratuais como a do dever de informação,a da boa-fé objetiva e da segurança.
Há limites jurídicos que devem ser observados quando da contratação por meio da inteligência artificial, sendo estes os mesmos aplicados para os contratos que não as utilizam, devendo haver um cuidado maior na observação das regras de direito contratual e consumerista quando se está diante da tecnologia. O fornecedor, pessoa natural ou jurídica, responde em face do consumidor pelo dano que lhe for causado.
O que se pretende entender é se o uso desses algoritmos ou dispositivos são efetivamente benéficos para o consumidor. Ou, se são projetados para que o fornecedor sempre obtenha vantagem, causando danos. São muitas as indagações para as quais ainda não se tem a resposta de forma consolidada. E o Poder Judiciário brasileiro precisa se preparar para as demandas e questionamentos que virão, bem como para o reconhecimento de outros danos que podem surgir além dos já reconhecidos.
O Poder Judiciário deve ficar atento para não indeferir demandas que venham a trazer indagações sobre uma decisão tomada pelo consumidor quando da aplicação de sistemas automatizados, baseando-se na autonomia da vontade, favorecendo, assim, o fornecedor causador do dano. A vulnerabilidade do consumidor fica mais evidente quando se está diante de contratações por meio de inteligência artificial.
A legislação brasileira já possui regras de proteção ao consumidor que podem ser aplicadas em casos de danos causados pela utilização da inteligência artificial. Ao direito cabe a regulamentação e o equilíbrio das relações sociais através da adequação às mudanças advindas da modernização, em especial quando se tem a contratação por meio da utilização de inteligência artificial. Se o Poder Judiciário se abster de aplicar os princípios e regras jurídicas já existentes que protegem o consumidor, estará contribuindo para o aumento dos danos, inclusive, através da violação de direitos da personalidade do consumidor, além dos danos materiais efetivos. A segurança jurídica precisa ser garantida!
Referências bibliográficas
DIVINO, Sthéfano Bruno Santosa. Desafios e benefícios da inteligência artificial para o direito do consumidor. Revista Brasileira de Políticas Públicas, Brasília, v. 11, n. 1. p.654-688, 2021.
LEE, Kai-Fu. Inteligência artificial [recurso eletrônico] : como os robôs estão mudando o mundo, a forma como amamos, nos relacionamos, trabalhamos e vivemos / Kai-Fu Lee ; tradução Marcelo Barbão. - 1. ed. - Rio de Janeiro: Globo Livros, 2019.
MIRAGEM, Bruno. A lei Geral de Proteção de Dados (lei 13.709/2018) e o direito do consumidor. Revista dos Tribunais. São Paulo, v. 1009, p.1-41, 2019. Disponível aqui. Acesso em 27 jul 2023.
PIERONI, Aline Martinez. Princípios gerais e princípios contratuais: Código Civil X Código de defesa do consumidor. Revista Brasileira de Direito Civil – RBDCivil. Belo Horizonte, v. 28, p. 43-75, abr./jun. 2021.
ROSENVALD, Nelson. As funções da responsabilidade civil. 3 ed. São Paulo: Saraiva, 2017.
SILVA, Alexandre Barbosa da; FRANÇA, Phillip Gil. Novas Tecnologias e o futuro das relações obrigacionais privadas na era da inteligência artificial: a preponderância do "fator humano". In: EHRHARDT JUNIOR, Marcos. CATALAN, Marcos. MALHEIROS, Pablo (Coord). Direito Civil e tecnologia. 2 ed. Belo Horizonte: Fórum, 2021.