A "Administração do Espaço Cibernético da China" (CAC) implementou em 1º de março de 2022 o documento "Disposições sobre o Gerenciamento de Recomendações Algorítmicas nos Serviços de Internet da Informação" (República Popular da China, 2022), com o objetivo de controlar e gerenciar os serviços de recomendação algorítmica em todo o território da China Continental. A "recomendação algorítmica" pode ser definida pela geração, síntese, refinamentos e filtragem de pesquisas, mediante intrincados processos de tomada de decisão, conforme disposição do documento regulatório chinês.

Tais serviços são utilizados, majoritariamente, nas redes sociais - o aparecimento de recomendações de músicas, sites e até mesmo publicidade, é mediado pelos algoritmos de refinamento, os quais utilizam o aprendizado de máquina (machine learning) para automatizar decisões e prever o comportamento dos usuários a partir de um vasto histórico de dados de treinamento (Hao, 2022) Todavia, atualmente tais algoritmos respaldados de I.A. são verdadeiras "black boxes", ou seja, não são considerados transparentes pois dificultam a visualização das consequências de seu uso.

Trata-se, na realidade, de uma meta de governança de sistemas de inteligência artificial (I.A.) a fim de entender como as empresas (principalmente de tecnologia e de redes sociais) são capazes de influenciar o discurso online. É nesse ínterim que a referida regulamentação cria o "repositório de algoritmos" (ou "arquivamento estatal de algoritmos"): Provedores que possuam capacidade de mobilização social e/ou influência da opinião pública devem fornecer uma série de informações para as autoridades estatais responsáveis no prazo de dez dias úteis, além da realização de avaliações de segurança e inspeções de supervisão (República Popular da China, 2022). Esse banco representa uma ferramenta inovadora nas políticas regulatórias chinesas, no entanto, o ocidente não visualizou a iniciativa com bons olhos, intitulando-a de "agressiva" e "intrigante" (Hao, 2022).

Neste artigo, serão identificados os principais argumentos a favor e contra a implementação de tais repositórios, assim como a sua comparação com o projeto principiante brasileiro de criação de bases de dados comuns.

A República Popular da China e o repositório de algoritmos

O supracitado documento inaugura o início das restrições chinesas aos algoritmos de I.A., tomando os primeiros passos, no plano mundial, para a regulação de sistemas intrínsecos à internet (Sheeran, 2023, p. 12). O CAC vem publicando, regularmente, as informações de algoritmos estruturantes de diversas empresas influentes na internet, como ByteDance Ltd (dona do TikTok), Alibaba Group Holding Ltd. e Tencent Holdings Ltd., dono do app WeChat (Hao, 2022). As informações requisitadas vão desde o nome do provedor e do formulário de serviços, o campo de aplicação, o tipo de algoritmo, o relatório de autoavaliação do algoritmo, até o tipo de conteúdo a ser exibido (República Popular da China, 2022). O repositório abarca todos os dados provenientes dos algoritmos das empresas chinesas e forma uma base de dados pública, contendo o processo de criação, treinamento, implantação e alimentação dos algoritmos criados.

Para a estrutura governamental chinesa, o repositório de algoritmos é como um baú de objetos preciosos: justamente aqueles que têm o condão de influenciar a opinião pública são depositados, ou seja, minuciosamente analisados e controlados para refletirem os valores socialistas fundamentais chineses, a ideologia do "Partido Comunista Chinês", e as orientações presentes nos discursos do Secretário Geral e líder da nação - Xi Jinping (Sheeran, 2023, p. 19). A RPC já possui um histórico de detalhado planejamento econômico - a saber, a "economia de projetamento" (Jabbour, Gabrielle, 2021, p. 150)  -, logo, apesar de questionável no ocidente, é uma prática comum no país do leste asiático. Assim, para um país movido por uma ideologia extremamente explícita e imiscuída em todas as instâncias da sociedade, o repositório garante a manutenção do discurso político oficial.

Outro benefício decorrente dessa vigilância é a prevenção de condutas anticompetitivas, da formação de monopólios e oligopólios, e da disseminação de ideias antiéticas (vício em apostas e pornografia, por exemplo) (República Popular da China, 2022). O governo "coage" as empresas a revelarem informações confidenciais sobre as tecnologias que alimentam suas plataformas, arquivando os segredos comerciais e industriais. Por fim, em uma nova leva de entrega de relatórios, os reguladores implementaram a regra de "limpar os efeitos negativos dos algoritmos", mediante a amplificação de informações prejudiciais, violação da privacidade do usuário e abuso de trabalhadores temporários (Hao, 2022). Em síntese, o regulamento exige a utilização dos algoritmos ??para a promoção da "energia positiva" - frase de Xi Jinping que eleva a opinião pública sobre o governo e a credibilidade do PCC (Hao, 2022).

A Europa e os EUA também tentam manusear os algoritmos de redes sociais a fim de combater a desinformação e as fake news, além de promover a saúde mental dos jovens. No entanto, eles são bastante complexos - verdadeiras "caixas pretas" - tornando realmente difícil o deciframento e/ou antecipamento de suas consequências.  Devido a isso, o ocidente encara a tentativa chinesa de manipular e arquivar algoritmos de I.A. como precipitada e "impossível" - Cathy O'Neil, auditora algorítmica, revela: "Na verdade é impossível controlar o que um mecanismo de recomendação faz no geral" (Hao, 2022). Ela argumenta que mesmo com o acesso total a todos os dados, os quais mudam a cada interação do usuário, os próprios engenheiros computacionais lutam para ajustar os comportamentos dos sistemas por eles próprios criados (Hao, 2022). Há de se considerar que, se o controle dos algoritmos ainda é difícil, mesmo com todos os dados disponíveis, seria ainda mais dificultoso para o governo chinês, já que a natureza das informações publicadas no site oficial é bastante singela.

Todavia, o CAC publicou no site do registro de algoritmos (a fim de orientar os provedores no processo de submissão de informações), um manual do usuário (provedor dos sistemas de algoritmos de I.A.) para download (República Popular da China, 2024), com a solicitação de diversas informações adicionais para além daquelas publicadas no site inicial. Logo, percebe-se que foram exigidas inúmeras informações adicionais além daquelas publicadas, como: recursos biométricos, informações pessoais, lista dos conjuntos de dados de código aberto e "códigos autoconstruídos" nos quais o algoritmo foi treinado (Sheehan, 2023, p. 30). É evidente que o CAC divulga apenas uma diminuta parte das informações ao público, mantendo aquelas estratégicas, competitivas, pessoais e confidenciais, sob sigilo absoluto.

Nas legislações lançadas posteriormente ("Disposições sobre a Administração de Serviços de Síntese Profunda da Internet da Informação - 2022" e "Medidas Provisórias para a Gestão de Serviços de Inteligência Artificial Generativa - 2023)" ainda permanece a previsão de depósito dos algoritmos no repositório, o qual,  no presente estágio, se caracteriza mais como um processo de licenciamento do que como um mero registro, já que os provedores não podem oferecer os seus serviços enquanto os reguladores não houverem aprovado os novos modelos algorítmicos.

O fato dos principais alvos dessa medida se constituírem por empresas privadas revela as "condições" de funcionamento impostas pela estrutura governamental chinesa não visualizadas no ocidente. A questão sobre a verdadeira natureza da economia da RPC - socialismo de mercado ou capitalismo de Estado - não é o tópico deste artigo, mas certamente espelha esse caráter incisivo mencionado pela notícia publicada no "The Wall Street Journal" (Hao, 2022) - um dos principais jornais da mídia capitalista ocidental.

Em relação ao Brasil, não existe qualquer tipo de iniciativa semelhante àquela da RPC no sentido de coletar as informações de algoritmos de empresas privadas, no entanto, o "Plano brasileiro de Inteligência Artificial" (2024-2028), apresentado em 30 de junho aos membros do governo e ao público em geral, contém uma iniciativa intitulada: "Nuvem soberana" - gerida por órgãos governamentais ou empresas públicas, comportando um ecossistema robusto de dados públicos. Apesar da falta de detalhamento e de sua recente divulgação, percebe-se que compartilha apenas um dos objetivos do repositório - junção de todos os dados em somente um lugar, para rápido e fácil acesso - se distanciando das características particulares ao primeiro (base de dados estatal, parcial divulgação ao público, imposição de sigilo sobre determinadas informações, etc).

Considerações Finais

Em relação ao aparato governamental, o repositório estatal de algoritmos chinês, configura uma ótima estratégia não somente para manter o controle sobre informações divulgadas à sociedade e sobre algoritmos com capacidade de mobilização pública, mas também para a construção de um banco de dados de origem empresarial e social, garantindo a competitividade econômica (das empresas privadas nacionais). Todavia, do ponto de vista do corpus social, tal arquivamento não desvela segurança jurídica, pois todas as informações biométricas e pessoais que os algoritmos utilizam para realizar suas predições agora também estarão em mãos governamentais. Percebe-se a ausência de consentimento livre e informado, além da implementação de uma conjuntura crítica, visto que os dados biométricos são extremamente sensíveis.

Portanto, se o Brasil possuísse ânsia por implementá-lo nacionalmente, deveria investir, primeiramente, em um aparato de governança para gerir, de modo mais adequado, as informações sensíveis das empresas particulares assim como os dados biométricos e confidenciais da população. Caso contrário, a fiabilidade, não somente do repositório, mas também da própria estrutura governamental brasileira, será posta em xeque.

________

HANYU. Primeira recomendação do algoritmo de revisão do People's Daily Online: não deixe o algoritmo determinar o conteúdo. People's Daily Online: 18/09/2017. Disponível aqui. Acesso em: 30 de setembro de 2024.

HAO, Karen. China May Be Chasing Impossible Dream by Trying to Harness Internet Algorithms. The Wall Street Journal. 30/08/2022. Disponível aqui. Acesso em: 06 de outubro de 2024.

SHEEHAN, Matt. Tracing the Roots of China's AI Regulations. Carnegie Endowment for International Peace. Washington, DC. 2024. Disponível em: . Acesso em: 03 de outubro de 2024.

SHEEHAN, Matt. China's AI Regulations and How They Get Made. Carnegie Endowment for International Peace. Washington, DC. 2023. Disponível em: . Acesso em: 03 de outubro de 2024.

REPÚBLICA POPULAR DA CHINA. Disposições sobre avaliação da segurança dos serviços de informação da Internet com atributos de opinião pública ou capacidades de mobilização social. Administração do espaço cibernético da China. Rede de Informações da Rede China. 15/11/2018. Disponível aqui. Acesso em: 06 de outubro de 2024.

REPÚBLICA POPULAR DA CHINA. Anúncio da Administração do Ciberespaço da China sobre a divulgação de informações de registro de algoritmo de serviço de informações da Internet. Administração do espaço cibernético da China. Rede de Informações da Rede China. 08/2024. Disponível aqui. Acesso em: 06 de outubro de 2024.

REPÚBLICA POPULAR DA CHINA. Disposições sobre o gerenciamento de recomendações algorítmicas nos serviços de informações da Internet. Administração do espaço cibernético da China; Ministério da Indústria e Tecnologia da Informação; Ministério da Segurança Pública; Administração Estatal de Regulamentação do Mercado. Tradução de: China Law Translate. 31/12/2021. Disponível aqui.