A coluna German Report desta semana tem a honra de entrevistar o ministro do Superior Tribunal de Justiça, Ricardo Villas Bôas Cueva, uma das maiores autoridades em Direito Digital na Corte.

Formado em Direito pela Universidade de São Paulo, Ricardo Cueva fez LL.M na renomada Harvard Law School, em Cambridge, nos Estados Unidos, em 1990, na área de direito tributário, tendo recebido a láurea Oliver Oldman Award pelo trabalho.

Em 1994, rumou para a Alemanha para cursar o doutorado na Johann Wolfgang Goethe Universität, com tese escrita em alemão sobre os incentivos econômicos para a proteção ambiental, na qual abordou o problema sob a perspectiva comparada no ordenamento jurídico brasileiro e alemão.

Ricardo Cueva teve uma atuação profissional polivalente: atuou na advocacia privada e pública, ocupando o cargo de procurador do Estado de São Paulo e da Fazenda Nacional, em São Paulo e Brasília, assumindo, por fim, o mandato de conselheiro do Conselho Administrativo de Defesa Econômica (CADE), onde permaneceu até 2008, sendo indicado, em 2011, para o STJ, onde preside atualmente a 3ª Turma de Direito Privado.

Paralelamente, exerceu a docência e publicou inúmeros escritos nos mais diversos ramos do direito, como direito concorrencial, propriedade intelectual, direito empresarial e societário, proteção de dados e, mais recentemente, direito digital, o que revela sua ampla formação e compreensão da complexidade do fenômeno jurídico.

Ultimamente, tem se dedicado com afinco ao estudo do direito digital, debruçando-se principalmente sobre a questão da proteção de dados, da regulamentação das plataformas e do uso da inteligência artificial.

Com efeito, em dezembro de 2022, o Ministro entregou ao presidente do Senado, Rodrigo Pacheco, o relatório final da comissão de juristas constituída para propor subsídios à regulação da Inteligência Artificial (IA) no Brasil.

Durante vários meses, a comissão, sob a presidência de Ricardo Cueva, promoveu profunda discussão com vários especialistas a fim de traçar um mapa completo sobre o que se pensa no Brasil e no mundo a respeito desse tema sensível, que está na ordem do dia, sobretudo na Europa, que saiu à frente na regulação das plataformas e da economia digital.

Ainda ontem, a revista alemã Der Spiegel publicou matéria informando que mais de mil pessoas assinaram um manifesto requerendo uma pausa de pelo menos seis meses no desenvolvimento de sistemas mais evoluídos de IA. Dentre os subscritores, diversos especialistas e empresários, como Elon Musk, um dos fundadores da OpenAI, e Steve Wozmiak, da Apple¹.

A grande preocupação é que a coisa saia do controle. O manifesto pede que sistemas mais evoluídos que o GPT-4 só sejam desenvolvidos quando se possa ter uma ideia clara acerca dos riscos que eles acarretam à humanidade e dos efetivos benefícios, sempre prometidos, mas ainda um tanto duvidosos.

Afinal, um dos temores que afligem especialistas, políticos e a sociedade civil em geral é o fato de que os sistemas mais modernos de IA podem acabar com os postos de trabalho de milhares de pessoas e promovam ainda mais, de forma descontrolada, a difusão de fake news, discursos de ódio e antidemocráticos na rede.

Isso, por si só, já mostra a relevância do trabalho realizado pela comissão de juristas que se debruçou sobre a regulação do uso de inteligência artificial no Brasil e o papel central desempenhado por Ricardo Cueva nesse processo como um dos grandes pensadores do direito digital na atualidade.

Nessa entrevista, ele fala um pouco sobre sua experiência na Alemanha e sobre algumas das questões mais angustiantes que as novas tecnologias lançaram sobre o direito. Confira!

O senhor fez doutorado na Universidade Johann Wolfgang Goethe, em Frankfurt am Main, em direito tributário ambiental, com tese escrita em alemão. Conte-nos um pouco sobre como começou sua ligação com o direito germânico e sobre sua experiência na Alemanha como bolsista do DAAD (serviço alemão de intercâmbio acadêmico).

Sim, fui bolsista do DAAD, que me propiciou um curso intensivo de alemão em Mannheim, por três meses, antes de começar o doutorado na Universidade de Frankfurt. Eu já havia estudado o idioma em São Paulo, em razão de meu interesse pela filosofia e pela literatura alemãs. O doutorado em Direito ampliou meu interesse pela cultura alemã em geral, especialmente pela produção doutrinária em vários ramos do Direito, que procuro sempre ler. 

Dentre suas diversas atividades profissionais ao longo da carreira, o senhor foi Conselheiro do CADE. Na Europa está em vigor o Digital Markets Act (DMA), regulamento que visa proteger a concorrência no mercado digital e que restringe o poder e impõe rígidas obrigações a um grupo específico de agentes econômicos, os gatekeepers ou "controladores de acesso", um pequeno grupo de empresas digitais que dominam o mercado e são capazes de distorcer o ambiente competitivo do mercado. Como o senhor vê a atuação e os desafios do CADE perante as big techs sem uma legislação específica como o DMA ou uma legislação concorrencial atualizada?

O direito da concorrência não tem acompanhado os desafios criados pelos mercados digitais, em decorrência, de certo modo, de um consenso forjado entre os aplicadores do direito de que seria mais prudente evitar intervenções contundentes pra não ameaçar a inovação tecnológica. Três décadas depois da criação da internet, essa abordagem leniente e tímida tem se revelado inadequada, pois nos mercados digitais é possível identificar complexas estratégias anticompetitivas, que não têm merecido escrutínio das autoridades de defesa da concorrência, apesar de não propiciarem eficiências compensatórias. Vê-se agora, com clareza, que os custos de não intervenção são substanciais e justificam uma nova perspectiva para a investigação e a correção das condutas danosas à sociedade.

O senhor tem se dedicado com afinco ao estudo da proteção de dados. Acompanhando a experiência estrangeira, sobretudo europeia, vemos que lá há um nível de proteção maior dos titulares de dados pessoais do que aqui. Quais os principais desafios para uma efetiva proteção de dados no Brasil?

A experiência europeia com a proteção de dados pessoais vem se aprofundando há muitas décadas. Mesmo assim, a entrada em vigor, há poucos anos, do Regulamento Geral de Proteção de Dados exigiu grande esforço de adaptação das autoridades, das empresas e da sociedade em geral. No Brasil não poderia ser diferente. Nossa legislação, fortemente inspirada no modelo europeu, é bastante complexa e exige mudança cultural e uma longa adaptação ao novo paradigma de proteção da privacidade.

Muito se fala - e se clama - por proteção da privacidade, não obstante as pessoas se exponham diuturnamente nas redes sociais. As plataformas, que rasteiam initerruptamente os internautas, têm se valido da bandeira para impedir a transmissão da herança digital aos herdeiros, com o que se apropriam das contas e, portanto, de informações e dados íntimos e sensíveis de seus usuários falecidos. Enquanto na Europa, tem-se garantido o acesso dos familiares às contas dos herdeiros, aqui algumas decisões têm impedido a família de ter acesso aos perfis a fim de resgatar as últimas lembranças de seus entes queridos. Como o senhor tem visto o problema da intransmissibilidade da herança digital?

Como assinalado em recente artigo escrito com você, Karina, percebe-se nitidamente, no mundo todo, uma forte tendência favorável à transmissão do acervo digital aos familiares e herdeiros, que não pode ser impedida ao frágil argumento de violação aos direitos da personalidade do falecido e da proteção de dados.

No ano passado, o senhor entregou ao presidente do Senado, Rodrigo Pacheco, o relatório final da comissão de juristas constituída para propor subsídios à regulação da inteligência artificial no Brasil. Pode nos dizer, em linhas gerais, quais as principais propostas apresentadas?

Por um lado, a minuta de substitutivo, tendo em vista a centralidade do ser humano como valor fundamental, procura definir com clareza direitos para proteção do elo mais vulnerável, a pessoa natural, continuamente afetada por sistemas de inteligência artificial, desde as seleções e recomendações de conteúdo e direcionamento de publicidade, na internet e nas mídias sociais, até a sua análise de elegibilidade para tomada de crédito e para determinadas políticas públicas. Por outro, estabelece instrumentos de governança, controle, bem como um arranjo institucional de fiscalização e supervisão, procurando com isso aumentar a previsibilidade acerca da sua interpretação e, em última análise, segurança jurídica para inovação e o desenvolvimento econômico-tecnológico.

É preciso criar novas regras para regular os impactos da inteligência artificial na responsabilidade civil ou já temos normas suficientes para regular a questão?

Como se percebe na proposta de substitutivo apresentada pela comissão de juristas, diferentemente do que se vê no PL 20/2021, optou-se por um regime que compreende o fornecedor e o operador de sistema de IA. Sempre que algum desses agentes causar dano (patrimonial, moral, individual ou coletivo), será obrigado a repará-lo integralmente, independentemente do grau de autonomia do sistema. Como na proposta adotou-se o modelo europeu de classificação de riscos, há uma diferenciação importante no capítulo da responsabilidade civil: quando se tratar de sistema de IA de alto risco ou de risco excessivo, o fornecedor ou operador respondem objetivamente pelos danos causados, na medida da participação de cada um no dano. E quando se tratar de IA que não seja de alto risco, a culpa do agente causador do dano será presumida, aplicando-se a inversão do ônus da prova em favor da vítima.

Em sua opinião, os juízes podem se valer da inteligência artificial para prolatar sentenças e decidir um caso concreto, deixando-se substituir pelas máquinas no ato de julgar?

Não. As ferramentas de inteligência artificial podem ser muito úteis para a aprimorar a gestão do Poder Judiciário, evitando, por exemplo, demandas predatórias. São importantes também para a automação de tarefas repetitivas e para pesquisas, mas não devem se substituir ao juiz. O ato de julgar é humano e não deve ser delegado a um robô. Na proposta apresentada ao Senado pela comissão de juristas, aliás, a utilização de inteligência artificial no Judiciário é classificada como de atividade de alto risco, a exigir mecanismos específicos de governança e controle.

__________

1 Experten fordern Denkpause für künstiliche Inteligenz. Der Spiegel, 29/3/2023.