Governamentabilidade algorítmica e o controle político: a fórmula para uma crise democrática?

Na atualidade, é praticamente indissociável ao ser humano a realização de grande parte de suas atividades pelo meio digital, incluindo, a exemplo, o desenvolvimento de relações interpessoais e acesso à informação. Já, em contrapartida, notamos que os ambientes digitais se moldam por uma ótica mercantil, em que, sem a percepção do usuário, em troca da utilização da plataforma, há a entrega seus dados pessoais, como uma moeda de valor agregado a ser utilizados pela plataforma digital no mercado.

Nessa sistemática, a partir da utilização reiterada de determinada plataforma digital, por meio da análise algorítmica e pelo perfilamento de usuários, é possível que se dite e direcione o conteúdo que será destinado a cada indivíduo. Isso é, tendo por base os dados obtidos sobre a personalidade e interesses daquele cidadão, as plataformas digitais conseguem precisar e premeditar as predileções do usuário e o seu engajamento com determinado tipo de conteúdo.

A partir desse fenômeno, quando analisado dentro de uma sistemática político-democrática, vislumbra-se uma complexa problemática, em que as redes socais, por meio do uso de algoritmos, possuem a capacidade narrar e influenciar a direção de uma eleição política de um país.

Ou seja, por meio do controle do código algorítmico de uma plataforma digital, é possível que se faça o direcionamento de conteúdo político capaz influenciar a opinião política dos eleitores, sem que esses tenham consciência sobre a intervenção do algoritmo em sua formação de opinião e, nem tão pouco, seja disponibilizado a esse indivíduo o contato com a divergência para exercício pleno sobre o acesso à informação no processo de formação de sua convicção política.

Por certo, ainda que não se vislumbre perigo sobre a possiblidade dos controladores dos códigos algorítmicos intencionalmente moldarem a opinião política dos cidadãos, já há diversos estudos que questionam os efeitos práticos do simples uso do perfilamento e do direcionamento de conteúdo dentro das plataformas digitais.

Sobre isso, autores já caracterizam as redes sociais como bolhas de filtro ("Filter Bubble")¹ ou câmaras de eco ("Echo Chambers")², ou sejam, ambientes que reverberam preconcepções dos indivíduos, apenas reforçando seu ideário político, sem que forneçam diálogo ou o contraponto argumentativo com a oposição. Nesse cenário, entende-se que as redes sociais contribuem para a polarizam do debatem político, ao mesmo tempo que enfraquecem o debate e o pluralismo político.

Diante desse cenário, a partir dos ensinamentos Michel Foucault sobre relações de poder, desenvolve-se o conceito governamentalidade algorítmica, a qual se traduz pela racionalidade em prever e conduzir o comportamento dos indivíduos a partir da coleta, congregação e análise de seus dados pessoais. Assim, o conceito baseia-se por três fundamentos: (i) dataveillance, marcada pela constante vigilância e coleta de dados dentro das redes sociais; (ii) o data-mining, o processo de identificação e correlação entro os dados coletados; (iii) e o profiling, o perfilamento do indivíduo capaz de calcular, por meio da probabilidade, predisposições comportamentais do usuário que os dados foram coletados³.

Tendo como exemplo o tema mencionado, podemos observar o caso paradigmático da Cambridge Analytica, ocorrido durante as eleições norte-americanas de 2016. Esse caso gerou um impacto global e destacou a preocupação com a manipulação de conteúdo na esfera política.

Nesse incidente, a empresa britânica Cambridge Analytica foi acusada de coletar dados de milhões de usuários do Facebook sem consentimento, utilizando esses dados para criar perfis psicológicos. O objetivo era direcionar anúncios políticos personalizados durante as eleições presidenciais dos EUA em 2016^4.

Diante dessa situação, ficou evidente a necessidade de regulamentar o ambiente virtual de modo a proteger os direitos humanos dos cidadãos também nesse contexto. Isso resultou em uma resposta global, com diversos esforços para regular a atuação das plataformas online.

Um exemplo recente é o The Digital Service Act (Regulamento dos Serviços Digitais), introduzido pela UE. Esse regulamento impõe requisitos aos provedores de redes sociais e mecanismos de busca, exigindo transparência quanto ao direcionamento e recomendação de conteúdo em suas plataformas.

Posto isso, a  regulamentação europeia reflete a preocupação social de se garantir que os cidadãos tenham consciência das decisões algorítmicas que afetam suas experiências online. Isso visa dar aos usuários de plataforma digitais autonomia e independência sobre a moderação do conteúdo em seus perfis digitais, preservando princípios como a liberdade de expressão e o pluralismo político dos meios de comunicação.

Além disso, em mesmo sentido, também é possível citar que a Comissão Interamericana sobre Neurociência, Neurotecnologias e Direitos Humanos emitiu uma declaração recomendando que os Estados membros da OEA revisem suas leis para garantir a proteção dos direitos e liberdades estabelecidos na Carta Interamericana de Direitos Humanos.

Dentro desse contexto, uma das principais preocupações expressas pela comissão de juristas diz respeito aos riscos de controle e monitoramento exercidos sobre cidadãos e mídia nas redes sociais. O foco é assegurar a preservação das liberdades fundamentais, incluindo a liberdade de expressão, associação, reunião, acesso à informação pública e direitos políticos.

Já no contexto brasileiro, está em tramitação na Câmara dos Deputados o PL 2630/20, também conhecido como PL das fake news. O principal propósito desse projeto é estabelecer a lei brasileira de liberdade, responsabilidade e transparência na internet. Uma das principais metas dessa regulamentação é garantir a transparência no uso de algoritmos para direcionar conteúdo em plataformas online.

Ao examinar a proposta legislativa, torna-se claro que ela tem diversos objetivos, incluindo fortalecer o processo democrático e promover a diversidade de informações. Pelo projeto, também busca-se assegurar que os provedores sejam transparentes em relação às suas atividades com os usuários, incluindo os critérios utilizados para moderar e recomendar conteúdo.

Um exemplo semelhante é a PEC 29 de 2023. Essa PEC tem como objetivo acrescentar à Constituição Federal a proteção à integridade mental e à transparência algorítmica como direitos e garantias fundamentais. A justificativa para essa proposta se baseia no pensamento de Niklas Luhmann, argumentando que, considerando a influência dos processos algorítmicos e da inteligência artificial nas ações humanas, é necessário que a legislação intervenha para garantir a manutenção dos princípios essenciais à liberdade de cada cidadão.

Com base no exposto, fica evidente que assegurar os fundamentos democráticos de pluralismo e liberdade na formação de opinião política requer a abordagem da problemática da governabilidade algorítmica por parte dos Estados-nações.

Assim, conclui-se que resta claro a necessidade de indagação sobre a existência de um direito fundamental à transparência algorítmica e sobre quais condições seriam necessárias para estabelecer esse direito, a fim de preservar os princípios democráticos que se pretende defender.

____________

1 PARISER, Eli. O filtro invisível: o que a internet está es-condendo de você. Tradução de Diego Alfaro. Rio de Ja-neiro: Zahar, 2012..

2 BAKSHY, Eytan; MESSING, Solomon; ADAMIC, Lada. Exposure to ideologically diverse news and opinion on Facebook. Science Magazine, United States of America, 2015. p. 1130-1131

3 ROUVROY, Antoinette; BERNS, Thomas. Governamenta-lidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação? Revista Eco Pós, vol. 18, n. 2, p. 35-56, 2015.

 

4 BRITTANU. Kaiser. Manipulados : como a Cambridge Analytica e o Facebook invadiram a privacidade de milhões e botaram a democracia em xeque. Tradução Roberta Clapp, Bruno Fiuza. 1. ed. Rio de Janeiro: Harper Collins, 2020.

____________

BAKSHY, Eytan; MESSING, Solomon; ADAMIC, Lada. Exposure to ideologically diverse news and opinion on Facebook. Science Magazine, United States of America, 2015. p. 1130-1131

PARISER, Eli. O filtro invisível: o que a internet está es-condendo de você. Tradução de Diego Alfaro. Rio de Ja-neiro: Zahar, 2012. 

ROUVROY, Antoinette; BERNS, Thomas. Governamenta-lidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação? Revista Eco Pós, vol. 18, n. 2, p. 35-56, 2015.