Um dos maiores cientistas do século, Stephen Hawking1, pouco antes de falecer em maio de 2018 impressionou com sua aparição durante o evento de tecnologia "Web Summit"2 ocorrido em 2017, naquela rica oportunidade ele comentou sobre os riscos que a humanidade poderá enfrentar diante dos avanços da Inteligência Artificial (IA). Ele propôs, na ocasião, uma reflexão para que os cientistas e governos deem uma breve pausa nos avanços da automação e estabeleçam o realinhamento para focar mais nos benefícios sociais que a tecnologia pode oferecer à humanidade. Os riscos alertados por ele naquela oportunidade envolvem rupturas econômicas; a possível perda de milhares de empregos; a utilização das armas de destruição autônomas; novos meios de opressão política; podendo, assim, ser “a melhor ou a pior coisa que a humanidade já criou” em sua história.
O cientista inglês não está sozinho em seus alertas e preocupações, o velho continente vêm buscando a regulação da automação - englobando todos os mecanismos tecnológicos - e o debate para a criação de mecanismos éticos e de segurança para evitar que o futuro da humanidade fique à mercê da tecnologia aplicada por pessoas e governos mal-intencionados.
Não é à toa a dimensão que ganhou aas Leis de Proteção de Dados Pessoais, principalmente na Europa, com a pioneira e muito bem estruturada GDPR, “General Data Protection Regulation”, em vigor desde maio de 2018.
Diante desse breve contexto, o discurso do Presidente francês, Emmanuel Macron, em Bundestag – Berlim, em 18 de novembro de 20183, encontrou sintonia com Hawking à medida que tratou sobre os mesmos desafios que preocupam os cientistas, os riscos da transformação digital, evolução tecnológica e como a União Europeia poderá lidar com isso. As nações não estão estruturadas para enfrentar tamanha evolução. Como lidar com a evolução tecnológica e propiciar um ambiente protegido, com um comércio justo, com equilíbrio entre a liberdade individual e a solidariedade coletiva? Em seu discurso, sugeriu que a Europa mais uma vez – lembrando do pós-guerra – tome a iniciativa para o desenvolvimento sustentável da tecnologia pelas nações,
Tudo isso são valores que a Europa deve promover em resposta aos desafios contemporâneos. Essa nova responsabilidade franco-alemã consiste em proporcionar ferramentas dessa nova invenção à Europa, ferramentas da sua soberania. Essa nova etapa é assustadora no final, porque todos terão de compartilhar sua capacidade de tomada de decisões, sua política externa, de migração ou de desenvolvimento.
(...) nosso mundo está numa encruzilhada: ou escolhe apressar-se, como ele já o fez, no precipício do fascínio pela tecnologia sem consciência, pelo nacionalismo sem memória, pelo fanatismo sem reparos; ou ele decide que as realizações formidáveis ??da modernidade abrem uma nova era da qual toda a humanidade poderá se beneficiar. É neste continente, é da nossa união que nasce hoje o novo modelo digital, mesclando inovação de ruptura, proteção de dados e regulação dos agentes.
A partir daí, a França vem promovendo debates e ações governamentais com a finalidade de proteger a sociedade dos avanços tecnológicos e propiciar um ambiente ético e seguro. Através do Conselho de Estado, que dentre suas atribuições tem a missão de fornecer "pareceres jurídicos ao Governo e ao Parlamento sobre os seus projetos de lei e de regulamento", está buscando a construção de "uma inteligência artificial pública confiável". Assim, o Governo francês tem implantado com parcimônia e gradualmente a IA nos serviços públicos, através de uma política de implantação de inteligência artificial proativa, ao serviço do interesse geral e do desempenho público.
É utilizado, por exemplo, na gestão de tráfego, defesa e segurança, combate à fraude ou políticas de emprego. Mas ao se comprometer resolutamente com a inteligência artificial, seus possíveis benefícios na qualidade do serviço público seriam inúmeros: melhoria da continuidade do serviço público 24 horas por dia, relevância das decisões e serviços prestados ou igualdade de tratamento. revisar solicitações de usuários etc.
A busca é por uma automação que fortaleça,
"a relação humana entre o cidadão e o funcionário público, libertando tempo graças à automatização de determinadas tarefas (avisos de recepção, pedido de documentos adicionais, etc.) e melhorar a qualidade do serviço através a realização de tarefas até então materialmente impossíveis."
Com isso, segundo o próprio Conselho de Estado, o país antecipará seu quadro regulatório, através da implementação das diretrizes para a implantação da IA nos serviços públicos,
uma inteligência artificial pública confiável baseada em sete princípios: primazia humana, desempenho, justiça e não discriminação, transparência, segurança (cibersegurança), sustentabilidade ambiental e autonomia estratégica.
Um dos objetivos dessa diretriz é que o país tenha uma governança estruturada para que a estratégia pública de inteligência artificial seja satisfatória.
Para viabilizar a governança, a França conta, além dos esforços do Conselho de Estado, com o reforço do Departamento da Direção Digital Interministerial (DINUM) "responsável pela coordenação do desenho e implementação da estratégia do Estado no domínio dos dados"; e do coordenador nacional de inteligência artificial e a Agência Nacional de Coesão Territorial (ANCT). A entidade responsável por garantir que "a tecnologia da informação esteja ao serviço dos cidadãos e que não infrinja a identidade humana, os direitos humanos, a privacidade, as liberdades individuais ou públicas" é a Comissão Nacional de Informática e Liberdades (CNIL - Commission Nationale de l'Informatique et des Libertés)4, autoridade semelhante à nossa ANPD como órgão regulador.
E como tal, dentre suas funções está garantindo a conformidade com os regulamentos gerais de proteção de dados (GDPR); aconselhamento e apoiamentos gestores de projetos digitais; DPOs (délégués à la protection des données) nomeados por empresas, associações e serviços públicos; além da análise das inovações tecnológicas sobre a privacidade e as liberdades e emissão de recomendações; autorização para o tratamento de dados que apresentem uma particular sensibilidade; controle e imposição de sanções administrativas e colaboração com as demais agências europeias e internacionais.
Em sua estrutura, o governo Francês conta com o Etalab5, que é um departamento da Direção Digital Interministerial (DINUM), cuja função é ser um grande "Chief Data Officer" do Estado, sob a sua atribuição de "Administrador Geral de dados, algoritmos e códigos-fonte, coordena e desenho e a implementação da estratégia do Estado na área de dados, coordena a política de abertura e compartilhamento de dados públicos (dados abertos) e as ações das administrações do Estado, fornecendo suporte para facilitar a disseminação e reutilização de suas informações públicas".
A França também disponibiliza a plataforma de dados abertos data.gouv.fr, destinada a "recolher e disponibilizar gratuitamente todas as informações públicas do Estado, dos seus estabelecimentos públicos e, se assim o desejarem, das autarquias locais e regionais com uma missão de serviço público".
Em resumo, o principal objetivo é de se estabelecer uma governança de dados públicos transparente através dos dados governamentais abertos.
Certamente, o grande diferencial está no projeto ambicioso denominado "IA for Humanity", criado a partir do discurso do presidente Macron para se instituir uma política de dados que considere a IA como uma aliada para o fortalecimento da França e da União Europeia.
Em sua proposta, a França deve: (1) incentivar o compartilhamento dos dados das empresas para criar um banco de dados comuns em um modelo de governança de dados baseado na reciprocidade, cooperação e compartilhamento; (2) propor a abertura progressiva do acesso de dados, setorialmente, por razões de interesse público; (3) assegurar o direito à portabilidade de dados para qualquer indivíduo, migrando suas informações de um "ecossistema de serviço para outro sem perder seu histórico de dados".
O principal objetivo é de potencializar a França em sua vantagem competitiva nos quatro setores considerados mais maduros: saúde; transporte; meio ambiente e defesa e segurança. A estratégia para se atingir esse avanço envolve 3 medidas: (1) Implementar políticas específicas do setor com foco nas principais questões, a política industrial deve se concentrar nas principais questões e desafios da nossa era, incluindo a detecção precoce de patologias, medicina P4, desertos médicos e mobilidade urbana de emissão zero; (2) Testar plataformas específicas do setor para apoiar a inovação. Devem ser criadas plataformas setoriais específicas para compilar dados relevantes e organizar sua captura e coleta; fornece acesso a infraestruturas de computação em larga escala adequadas para IA; facilitar a inovação criando ambientes controlados para experimentos; e permitir o desenvolvimento, teste e implantação de produtos operacionais e comerciais e (3) Implementar sandboxes de inovação. O processo de inovação da IA ??deve ser simplificado criando áreas de teste sandbox."6
Por outro lado, dentre tantas iniciativas positivas chamou atenção a antinomia do legislador francês, conforme comentado por Solano de Camargo,
"o artigo 33 da Lei francesa de Reforma da Justiça, promulgada pelo presidente Macron em 25 de março de 2019, proíbe expressamente a indexação de decisões dos tribunais da França e os nomes dos respectivos magistrados, evitando que esses dados sejam “reutilizados com a finalidade ou efeito de avaliar, analisar, comparar ou prever suas práticas profissionais reais ou alegadas”, sob pena de prisão do infrator por até cinco anos. Em outras palavras, o legislador francês proibiu as soluções de inteligência artificial (IA) baseadas nos repositórios jurisprudenciais da França."7
Indaga-se, portanto, se a França com tal decisão está indo contra seu próprio discurso de igualdade pelo Conselho de Estado, contra o interesse geral e do desempenho público. O próprio programa "IA for Humanity" sugere a disponibilização e compartilhamento dos dados públicos, portanto, não faz muito sentido a proibição do uso dos algoritmos para a indexação das decisões dos tribunais com a finalidade de analisar, comparar ou prever suas decisões, tal uso se dá muitas vezes apenas pela necessidade de o mercado aumentar a produtividade e a eficiência dos serviços diante das ferramentas que a tecnologia oferece para esse fim. A indagação final seria qual a verdadeira finalidade dessa decisão do legislador francês, porque o cidadão pode ter suas informações tratadas – com o devido consentimento - e o judiciário, não. Afinal, as informações públicas e a transparência são defendidas pelo próprio governo francês.
Isso tudo demonstra que a sociedade ainda tem muitos desafios e nenhum governo, por mais avançados que seus programada de digitalização estejam, ainda não há o amadurecimento suficiente para os avanços da tecnologia.
Webliografia:
https://linc.cnil.fr/fr/dossier-securite-des-systemes-dia
https://politica.estadao.com.br/blogs/fausto-macedo/a-inteligencia-artificial-nos-tribunais-franceses-e-o-julgamento-de-galileu/
https://websummit.com/tm_source=google&utm_medium=cpc&utm_campaign=18596301005&utm_content=143300306118&utm_term=web%20summit%20portugal&gclid=Cj0KCQjwwfiaBhC7ARIsAGvcPe5GnWTywn4IehaWGpPU00npC_MhvJWmqaVyW1bdNPuCYVe1yZaht84aAqSeEALw_wcB
https://www.aiforhumanity.fr/en/
https://www.cnil.fr/fr/intelligence-artificielle-le-conseil-detat-se-prononce-sur-la-gouvernance-du-futur-reglement-ia
https://www.conseil-etat.fr/actualites/s-engager-dans-l-intelligence-artificielle-pour-un-meilleur-service-public
https://www.data.gouv.fr/fr/organizations/cnil/
https://www.etalab.gouv.fr/qui-sommes-nous/
https://www.numerique.gouv.fr/dinum/
__________
1 Disponível aqui.
2 "Web Summit" foi uma conferência de tecnologia que ocorreu na Europa e agora se estende pela América do Norte, Ásia e América do Sul. Está prevista no Brasil, na cidade do Rio de Janeiro, o "Web Summit RIO" em 2023.
3 Disponível aqui. Acesso em 29/10/2022.
4 Disponível aqui. Acesso em 28/10/2022.
5 O Etalab "coordena e promove a ação do Estado e das organizações que estão sob sua supervisão em termos de inventário, governança, produção, circulação, exploração e abertura de dados e, em particular, códigos-fonte, organizando o melhor uso dos dados do Estado".
6 Disponível aqui.
7 Disponível aqui.