Migalhas de IA e Proteção de Dados

O que a China pode nos (des) orientar sobre o arquivamento de algoritmos de I.A.?

A regulamentação chinesa sobre algoritmos de IA, focando no "repositório de algoritmos", uma medida pioneira para controlar o impacto desses sistemas na opinião pública, comparando com iniciativas ocidentais e brasileiras.

11/10/2024

A “Administração do Espaço Cibernético da China” (CAC) implementou em 1º de março de 2022 o documento Disposições sobre o Gerenciamento de Recomendações Algorítmicas nos Serviços de Internet da Informação(República Popular da China, 2022), com o objetivo de controlar e gerenciar os serviços de recomendação algorítmica em todo o território da China Continental. A “recomendação algorítmica” pode ser definida pela geração, síntese, refinamentos e filtragem de pesquisas, mediante intrincados processos de tomada de decisão, conforme disposição do documento regulatório chinês.

Tais serviços são utilizados, majoritariamente, nas redes sociais — o aparecimento de recomendações de músicas, sites e até mesmo publicidade, é mediado pelos algoritmos de refinamento, os quais utilizam o aprendizado de máquina (machine learning) para automatizar decisões e prever o comportamento dos usuários a partir de um vasto histórico de dados de treinamento (Hao, 2022) Todavia, atualmente tais algoritmos respaldados de I.A. são verdadeiras black boxes, ou seja, não são considerados transparentes pois dificultam a visualização das consequências de seu uso.

Trata-se, na realidade, de uma meta de governança de sistemas de inteligência artificial (I.A.) a fim de entender como as empresas (principalmente de tecnologia e de redes sociais) são capazes de influenciar o discurso online. É nesse ínterim que a referida regulamentação cria o “repositório de algoritmos” (ou “arquivamento estatal de algoritmos”): Provedores que possuam capacidade de mobilização social e/ou influência da opinião pública devem fornecer uma série de informações para as autoridades estatais responsáveis no prazo de dez dias úteis, além da realização de avaliações de segurança e inspeções de supervisão (República Popular da China, 2022). Esse banco representa uma ferramenta inovadora nas políticas regulatórias chinesas, no entanto, o ocidente não visualizou a iniciativa com bons olhos, intitulando-a de “agressiva” e intrigante(Hao, 2022).

Neste artigo, serão identificados os principais argumentos a favor e contra a implementação de tais repositórios, assim como a sua comparação com o projeto principiante brasileiro de criação de bases de dados comuns.

A República Popular da China e o repositório de algoritmos

O supracitado documento inaugura o início das restrições chinesas aos algoritmos de I.A., tomando os primeiros passos, no plano mundial, para a regulação de sistemas intrínsecos à internet (Sheeran, 2023, p. 12). O CAC vem publicando, regularmente, as informações de algoritmos estruturantes de diversas empresas influentes na internet, como ByteDance Ltd (dona do TikTok), Alibaba Group Holding Ltd. e Tencent Holdings Ltd., dono do app WeChat (Hao, 2022). As informações requisitadas vão desde o nome do provedor e do formulário de serviços, o campo de aplicação, o tipo de algoritmo, o relatório de autoavaliação do algoritmo, até o tipo de conteúdo a ser exibido (República Popular da China, 2022). O repositório abarca todos os dados provenientes dos algoritmos das empresas chinesas e forma uma base de dados pública, contendo o processo de criação, treinamento, implantação e alimentação dos algoritmos criados.

Para a estrutura governamental chinesa, o repositório de algoritmos é como um baú de objetos preciosos: justamente aqueles que têm o condão de influenciar a opinião pública são depositados, ou seja, minuciosamente analisados e controlados para refletirem os valores socialistas fundamentais chineses, a ideologia do “Partido Comunista Chinês, e as orientações presentes nos discursos do Secretário Geral e líder da nação Xi Jinping (Sheeran, 2023, p. 19). A RPC já possui um histórico de detalhado planejamento econômico a saber, a “economia de projetamento” (Jabbour, Gabrielle, 2021, p. 150)  —, logo, apesar de questionável no ocidente, é uma prática comum no país do leste asiático. Assim, para um país movido por uma ideologia extremamente explícita e imiscuída em todas as instâncias da sociedade, o repositório garante a manutenção do discurso político oficial.

Outro benefício decorrente dessa vigilância é a prevenção de condutas anticompetitivas, da formação de monopólios e oligopólios, e da disseminação de ideias antiéticas (vício em apostas e pornografia, por exemplo) (República Popular da China, 2022). O governo coage as empresas a revelarem informações confidenciais sobre as tecnologias que alimentam suas plataformas, arquivando os segredos comerciais e industriais. Por fim, em uma nova leva de entrega de relatórios, os reguladores implementaram a regra de “limpar os efeitos negativos dos algoritmos”, mediante a amplificação de informações prejudiciais, violação da privacidade do usuário e abuso de trabalhadores temporários (Hao, 2022). Em síntese, o regulamento exige a utilização dos algoritmos ??para a promoção da "energia positiva" — frase de Xi Jinping que eleva a opinião pública sobre o governo e a credibilidade do PCC (Hao, 2022).

A Europa e os EUA também tentam manusear os algoritmos de redes sociais a fim de combater a desinformação e as fake news, além de promover a saúde mental dos jovens. No entanto, eles são bastante complexos — verdadeiras “caixas pretas”tornando realmente difícil o deciframento e/ou antecipamento de suas consequências.  Devido a isso, o ocidente encara a tentativa chinesa de manipular e arquivar algoritmos de I.A. como precipitada e impossívelCathy O’Neil, auditora algorítmica, revela: “Na verdade é impossível controlar o que um mecanismo de recomendação faz no geral” (Hao, 2022). Ela argumenta que mesmo com o acesso total a todos os dados, os quais mudam a cada interação do usuário, os próprios engenheiros computacionais lutam para ajustar os comportamentos dos sistemas por eles próprios criados (Hao, 2022). Há de se considerar que, se o controle dos algoritmos ainda é difícil, mesmo com todos os dados disponíveis, seria ainda mais dificultoso para o governo chinês, já que a natureza das informações publicadas no site oficial é bastante singela.

Todavia, o CAC publicou no site do registro de algoritmos (a fim de orientar os provedores no processo de submissão de informações), um manual do usuário (provedor dos sistemas de algoritmos de I.A.) para download (República Popular da China, 2024), com a solicitação de diversas informações adicionais para além daquelas publicadas no site inicial. Logo, percebe-se que foram exigidas inúmeras informações adicionais além daquelas publicadas, como: recursos biométricos, informações pessoais, lista dos conjuntos de dados de código aberto e “códigos autoconstruídos” nos quais o algoritmo foi treinado (Sheehan, 2023, p. 30). É evidente que o CAC divulga apenas uma diminuta parte das informações ao público, mantendo aquelas estratégicas, competitivas, pessoais e confidenciais, sob sigilo absoluto.

Nas legislações lançadas posteriormente (Disposições sobre a Administração de Serviços de Síntese Profunda da Internet da Informação 2022e “Medidas Provisórias para a Gestão de Serviços de Inteligência Artificial Generativa — 2023) ainda permanece a previsão de depósito dos algoritmos no repositório, o qual,  no presente estágio, se caracteriza mais como um processo de licenciamento do que como um mero registro, já que os provedores não podem oferecer os seus serviços enquanto os reguladores não houverem aprovado os novos modelos algorítmicos.

O fato dos principais alvos dessa medida se constituírem por empresas privadas revela as condições de funcionamento impostas pela estrutura governamental chinesa não visualizadas no ocidente. A questão sobre a verdadeira natureza da economia da RPC — socialismo de mercado ou capitalismo de Estado — não é o tópico deste artigo, mas certamente espelha esse caráter incisivo mencionado pela notícia publicada no The Wall Street Journal (Hao, 2022) — um dos principais jornais da mídia capitalista ocidental.

Em relação ao Brasil, não existe qualquer tipo de iniciativa semelhante àquela da RPC no sentido de coletar as informações de algoritmos de empresas privadas, no entanto, o “Plano brasileiro de Inteligência Artificial” (2024-2028), apresentado em 30 de junho aos membros do governo e ao público em geral, contém uma iniciativa intitulada: “Nuvem soberana” — gerida por órgãos governamentais ou empresas públicas, comportando um ecossistema robusto de dados públicos. Apesar da falta de detalhamento e de sua recente divulgação, percebe-se que compartilha apenas um dos objetivos do repositório — junção de todos os dados em somente um lugar, para rápido e fácil acesso — se distanciando das características particulares ao primeiro (base de dados estatal, parcial divulgação ao público, imposição de sigilo sobre determinadas informações, etc).

Considerações Finais

Em relação ao aparato governamental, o repositório estatal de algoritmos chinês, configura uma ótima estratégia não somente para manter o controle sobre informações divulgadas à sociedade e sobre algoritmos com capacidade de mobilização pública, mas também para a construção de um banco de dados de origem empresarial e social, garantindo a competitividade econômica (das empresas privadas nacionais). Todavia, do ponto de vista do corpus social, tal arquivamento não desvela segurança jurídica, pois todas as informações biométricas e pessoais que os algoritmos utilizam para realizar suas predições agora também estarão em mãos governamentais. Percebe-se a ausência de consentimento livre e informado, além da implementação de uma conjuntura crítica, visto que os dados biométricos são extremamente sensíveis.

Portanto, se o Brasil possuísse ânsia por implementá-lo nacionalmente, deveria investir, primeiramente, em um aparato de governança para gerir, de modo mais adequado, as informações sensíveis das empresas particulares assim como os dados biométricos e confidenciais da população. Caso contrário, a fiabilidade, não somente do repositório, mas também da própria estrutura governamental brasileira, será posta em xeque.

________

HANYU. Primeira recomendação do algoritmo de revisão do People's Daily Online: não deixe o algoritmo determinar o conteúdo. Peoples Daily Online: 18/09/2017. Disponível aqui. Acesso em: 30 de setembro de 2024.

HAO, Karen. China May Be Chasing Impossible Dream by Trying to Harness Internet Algorithms. The Wall Street Journal. 30/08/2022. Disponível aqui. Acesso em: 06 de outubro de 2024.

SHEEHAN, Matt. Tracing the Roots of Chinas AI Regulations. Carnegie Endowment for International Peace. Washington, DC. 2024. Disponível em: . Acesso em: 03 de outubro de 2024.

SHEEHAN, Matt. Chinas AI Regulations and How They Get Made. Carnegie Endowment for International Peace. Washington, DC. 2023. Disponível em: . Acesso em: 03 de outubro de 2024.

REPÚBLICA POPULAR DA CHINA. Disposições sobre avaliação da segurança dos serviços de informação da Internet com atributos de opinião pública ou capacidades de mobilização social. Administração do espaço cibernético da China. Rede de Informações da Rede China. 15/11/2018. Disponível aqui. Acesso em: 06 de outubro de 2024.

REPÚBLICA POPULAR DA CHINA. Anúncio da Administração do Ciberespaço da China sobre a divulgação de informações de registro de algoritmo de serviço de informações da Internet. Administração do espaço cibernético da China. Rede de Informações da Rede China. 08/2024. Disponível aqui. Acesso em: 06 de outubro de 2024.

REPÚBLICA POPULAR DA CHINA. Disposições sobre o gerenciamento de recomendações algorítmicas nos serviços de informações da Internet. Administração do espaço cibernético da China; Ministério da Indústria e Tecnologia da Informação; Ministério da Segurança Pública; Administração Estatal de Regulamentação do Mercado. Tradução de: China Law Translate. 31/12/2021. Disponível aqui.

Veja mais no portal
cadastre-se, comente, saiba mais

Coordenação

Cintia Rosa Pereira de Lima, professora de Direito Civil da Faculdade de Direito da USP Ribeirão Preto – FDRP. Doutora em Direito Civil pela Faculdade de Direito da USP com estágio na Ottawa University (Canadá) com bolsa CAPES - PDEE - Doutorado Sanduíche e livre-docente em Direito Civil Existencial e Patrimonial pela Faculdade de Direito de Ribeirão Preto (USP). Pó-doutora em Direito Civil na Università degli Studi di Camerino (Itália) com fomento FAPESP e CAPES. Líder e Coordenadora dos Grupos de Pesquisa "Tutela Jurídica dos Dados Pessoais dos Usuários da Internet" e "Observatório do Marco Civil da Internet", cadastrados no Diretório de Grupos de Pesquisa do CNPq e do Grupo de Pesquisa "Tech Law" do Instituto de Estudos Avançados (IEA/USP). Presidente do Instituto Avançado de Proteção de Dados – IAPD - www.iapd.org.br. Associada Titular do IBERC - Instituto Brasileiro de Responsabilidade Civil. Membro fundador do IBDCONT - Instituto Brasileiro de Direito Contratual. Advogada.

Cristina Godoy Bernardo de Oliveira, professora doutora da Faculdade de Direito de Ribeirão Preto – Universidade de São Paulo desde 2011. Academic Visitor da Faculty of Law of the University of Oxford (2015-2016). Pós-doutora pela Université Paris I Panthéon-Sorbonne (2014-2015). Doutora em Filosofia do Direito pela Faculdade de Direito da USP (2011). Graduada pela Faculdade de Direito da USP (2006). Líder do Grupo de Pesquisa Direito, Ética e Inteligência Artificial da USP – CNPq. Coordenadora do Grupo de Pesquisa "Tech Law" do Instituto de Estudos Avançados (IEA/USP). Membro fundador do Instituto Avançado de Proteção de Dados – IAPD.

Evandro Eduardo Seron Ruiz, professor Associado do Departamento de Computação e Matemática, FFCLRP - USP, onde é docente em dedicação exclusiva. Atua também como orientador no Programa de Pós-graduação em Computação Aplicada do DCM-USP. Bacharel em Ciências de Computação pela USP, mestre pela Faculdade de Engenharia Elétrica da UNICAMP, Ph.D. em Electronic Engineering pela University of Kent at Canterbury, Grã-Bretanha, professor lLivre-docente pela USP e pós-Doc pela Columbia University, NYC. Coordenador do Grupo de Pesquisa "Tech Law" do Instituto de Estudos Avançados (IEA/USP). Membro fundador do Instituto Avançado de Proteção de Dados – IAPD.

Nelson Rosenvald é advogado e parecerista. Professor do corpo permanente do Doutorado e Mestrado do IDP/DF. Pós-Doutor em Direito Civil na Università Roma Tre. Pós-Doutor em Direito Societário na Universidade de Coimbra. Visiting Academic na Oxford University. Professor Visitante na Universidade Carlos III, Madrid. Doutor e Mestre em Direito Civil pela Pontifícia Universidade Católica de São Paulo – PUC/SP. Presidente do Instituto Brasileiro de Estudos de Responsabilidade Civil – IBERC. Foi Procurador de Justiça do Ministério Público de Minas Gerais.

Newton De Lucca, professor Titular da Faculdade de Direito da USP. Desembargador Federal, presidente do Tribunal Regional Federal da 3ª Região (biênio 2012/2014). Membro da Academia Paulista de Direito. Membro da Academia Paulista de Letras Jurídicas. Membro da Academia Paulista dos Magistrados. Vice-presidente do Instituto Avançado de Proteção de Dados.