Entre os dias 20 e 23 deste mês de setembro, vários chefes de Estado e de governo dos 193 Estados-membros da ONU, representantes da porção jovem do mundo e representantes da sociedade civil, pesquisadores e o setor privado reuniram-se, na sede das Nações Unidas, em Nova Iorque, para a Cúpula do Futuro 2024.
Esta reunião não só abrangeu temas sobre Inteligência Artificial (IA), mas também outros temas foram debatidos, tais como: a pobreza extrema e a fome no mundo; as emissões de gases de efeito estufa; os conflitos bélicos e políticos que ocasionam grandes deslocamentos de pessoas; as ameaças ao planeta devido às mudanças climática e, como era esperado, os riscos associados às novas tecnologias. Todas estas discussões passam pela afirmação política da instituição alegando que “a governança multilateral, concebida em tempos mais simples e mais lentos, deixou de ser adequada para a realidade complexa, interligada e em rápida mutação dos nossos dias”1. Entenderam isso?
Na verdade, esta discussão sobre futuro, nesta organização, é uma discussão antiga que começou na reunião da Assembleia Geral da ONU em setembro de 2022. Esta foi a reunião que formatou a atual Cúpula do Futuro, incluindo aqui seu propósito “de reforçar a governança global em favor das gerações presentes e futuras ... com recomendações para fazer avançar a nossa agenda comum e responder às questões atuais e desafios futuros”2.
As primeiras decisões desta Assembleia Geral de 2022 culminaram num documento de maio de 20233 que destaca os principais pontos e visões dessa cooperativa chamada ONU. Essa visão global da IA está bem retratada no relatório final sobre "Governança da Inteligência Artificial para a Humanidade"4 lançado no dia 17 de setembro de 2024, às vésperas da Cúpula do Futuro. Elenco abaixo as conclusões resumidas deste documento de mais de 100 páginas e que são apresentadas logo a partir da sétima página.
O que a ONU pensa sobre a IA
1. A inteligência artificial (IA) está revolucionando diversos setores ao abrir novas fronteiras científicas, otimizar redes de energia, melhorar a saúde pública e a agricultura, além de apoiar o progresso em relação aos Objetivos de Desenvolvimento Sustentável (ODS).
2. Sem governança adequada, as oportunidades da IA podem não se manifestar ou ser distribuídas de forma equitativa, ampliando a desigualdade digital e limitando os benefícios a poucos Estados, empresas e indivíduos. A falta de confiança e governança ineficaz pode restringir o potencial da IA.
3. A IA também traz riscos, como o viés e a vigilância, além de novas preocupações, como as "alucinações" dos modelos de linguagem, disseminação de desinformação, riscos à paz e segurança, e o consumo de energia em tempos de crise climática.
4. Sistemas de IA rápidos, opacos e autônomos desafiam as regulamentações tradicionais e podem transformar o mundo do trabalho. Armas autônomas e usos de IA na segurança pública levantam questões legais, de segurança e humanitárias sérias.
5. Atualmente, há um déficit de governança global em relação à IA. Apesar das discussões sobre ética e princípios, o conjunto de normas e instituições ainda é incipiente e cheio de lacunas. A responsabilidade é frequentemente ausente, especialmente no uso de sistemas de IA inexplicáveis que afetam os outros, e o cumprimento das regras muitas vezes depende do voluntarismo, em contraste com o discurso.
6. Como observado em nosso relatório provisório, a governança da IA é crucial, não apenas para enfrentar os desafios e riscos, mas também para garantir que aproveitemos o potencial da IA de maneira inclusiva.
Sim, são estes os pontos principais que não parecem estar tão preocupados com os benefícios que a ciência sempre trouxe para o mundo como estão com a governança da IA, ou seja, quem irá ditar as regras da IA. Dos seis tópicos, metade deles foca em governança.
Será que realmente a IA está tão “desgovernada” assim. Sera que a IA é realmente esse agente tecnológico com esse potencial ofensivo a humanidade?
Outros agentes tecnológicos disruptivos
De tempos em tempos a tecnologia prega peças na gente. Qual leitor aqui se lembra quando a humanidade passou apreensiva pelo réveillon do ano de 1999, bem na virada do século? Pois foi um susto antes e um susto maior depois. Um susto antes pois, no século passado, era comum os softwares armazenarem apenas os últimos dois dígitos do ano por razões de economia de memória. Sendo assim, existia a expectativa que muitos programas de computador, na virada do século, fossem interpretar o ano novo, 2000, como o ano de 1900. Como ficariam os satélites? As emissões de passagens aéreas? Os boletos com vencimento em janeiro? Foram muitas horas gastas para remediar a situação que fora então chamado de “bug do milênio”5. O outro susto foi na efetiva mudança de século: praticamente nada aconteceu. O réveillon foi um sucesso. O bug... parece que quem viu este bug, por coincidência, também viu o cometa Halley anos antes.
Um pouco mais próximo de nós, em maio de 2008, “o STF decidiu que as pesquisas com células-tronco embrionárias não violam o direito à vida, tampouco a dignidade da pessoa humana. Esses argumentos foram utilizados pelo ex-procurador-geral da República, Claudio Fonteles, na ADIn 3510 ajuizada com o propósito de impedir essa linha de estudo científico”6. Nesta época, tivemos grandes discussões na sociedade, principalmente na definição de quando se dá o início da vida e, outras como a possibilidade de uso destas células para clonagem humana. O STF apaziguou ambas.
Levantei estes dois temas anteriores pois, cada um ao seu modo, ambos apresentam evoluções da ciência que, de alguma forma, impactaram a sociedade. Muito embora o mundo já tenha enfrentado desafios semelhantes e, talvez, mais impactantes, com outras “engenhocas” disruptivas, tais como a máquina a vapor, os motores elétricos, o avião, o telefone, e até mesmo a iluminação pública que dizimou o emprego dos acendedores de postes no começo do século XX no Brasil; talvez nada se compare aos efeitos da Computação, tanto para o progresso, quanto para o malefício. O computador é uma máquina que tem o potencial de “invadir” todas as atividades humanas, como já está fazendo há alguns anos. Por isso mesmo, que logo ao ser criada, essa máquina já tinha a alcunha de ser a única máquina universal que o homem já havia criado, dadas suas possibilidades de aplicações.
Preocupações com a IA
Aqui eu destaco que, quando comentamos sobre os avanços da IA, muitas vezes estamos nos referindo apenas (e não apenas) às aplicações da IA. Não apenas, pois são estas aplicações da IA que irão participar do nosso cotidiano. São estas aplicações que irão escolher os filmes de streaming que iremos assistir, irão dirigir os aviões, irão pilotar automóveis as ruas, escolher o que iremos ver nas redes sociais, auxiliar nas nossas redações no trabalho... percebam que estas são aplicações da IA que já estão presentes nas nossas vidas. O que será que ainda está por vir?
A resposta a esta última pergunta está nas pesquisas sobre IA. Esta resposta ainda está sendo elaborada. Neste ponto, não há organização neste mundo que consiga “brecar” esta atividade. Percebam que não há paralelo na comparação entre pesquisas em laboratórios de biociências, como foi o caso das células troncos embrionárias, nas quais as pesquisas só podem ser realizadas em locais físicos, com recursos físicos (os embriões, as células), em alguns poucos laboratórios bem desenvolvidos e constituídos por um grupo de pesquisadores, com pesquisa em computação. Neste último caso, os computadores são abundantes, quase onipresentes. Todo cientista da computação tem acesso a dezenas deles, dos mais simples, aos mais sofisticados. Os modelos estão nos livros, nos artigos científicos. Pesquisar em IA é uma tarefa que envolve conhecimento, técnica, inovação, criatividade e criação de códigos, ou seja, de software. Neste “pequeno mundo” da Computação, ainda quase tudo é possível.
A IA que o mundo deveria ver
A seguir, elenco os desafios que eu acredito que as pesquisa sobre Inteligência Artificial poderão trazer respostas:
1. Educação. Como usar os recursos da IA para oferecer uma educação de qualidade para todos os jovens? Como estes recursos podem ser usados para eliminar as barreiras de acesso tecnológico que hoje existe para os mais velhos, para as pessoas com incapacidades físicas, para as pessoas com poucos recursos financeiros e os que vivem distantes dos grandes centros. Como fazer uma educação inclusiva com a IA que temos hoje?
2. Saúde. Como promover um acesso mais igualitário a saúde por meio da IA? Como abranger mais pessoas? Como melhorar suas condições sanitárias e físicas? Como usar a IA para aproximar as famílias distantes, os deficientes físicos das escolas, dos centros de saúde?
3. Agricultura. Como usar a IA para aumentar a produção de alimentos frescos e fazer com que estes alimentos cheguem a todos, independentemente de sua situação na geografia do planeta, de sua situação financeira?
4. Segurança. Como usar a IA para aumentar nossa segurança nas cidades e no campo. Nossa segurança financeira, nossa segurança com nossos dados pessoais, nossa segurança nos transportes, nas compras e outras transações.
5. Serviços e produção. Como usar a IA para permitir aos cidadãos mais acesso aos serviços públicos, mais cidadania. Como usar a IA para facilitar o trabalho braçal, aumentar a mecanização e treinar e oferecer trabalhos menos desgastantes fisicamente para as pessoas. E por fim,
6. Liberdade. Como usar a IA e fazer do mundo um lugar de cidadãos globais, com direito de ir e vir sem serem importunados por motivos de fé, crença, religião, cor da pele, crenças e opiniões. Como usar a IA para que as pessoas sejam e se sintam efetivamente livres para exporem suas opiniões sem sofrerem retaliações, para fazê-las donas dos seus deveres como serão dos seus direitos.
Estão aqui seis pontos de discussão que a ONU poderia encampar, em contraste com os seis anteriormente apresentados. Sei que é muita a pretensão deste autor, mas... São seis pontos de discussão que todos os estados membros podem trabalhar em suas “casas” e não se sentirem presos a esta agremiação que acha que os problemas do mundo são tantos que as nações independentes precisam da opinião de um escritório geral de burocratas para resolverem seus, nossos problemas.
Para tantos a IA é um problema, mas para muitos a IA é um desafio e será uma solução para um mundo bem melhor, um mundo de pessoas responsáveis, livres e governadas por pessoas que eles escolheram pelo sufrágio universal.
__________
1 Cúpula do Futuro. Aja agora para o nosso futuro comum. Disponível aqui. Último acesso em 23 de setembro de 2024.
2 Resolution adopted by the General Assembly on 8 September 2022. Disponível aqui. Último acesso em 23 de setembro de 2024.
3 Our Common Agenda. Policy Brief 5. A Global Digital Compact an Open, Free and Secure Digital Future for All. Disponível aqui. Último acesso em 24 de setembro de 2024.
4 Governança da Inteligência Artificial para a Humanidade. Disponível aqui. Último acesso em 23 de setembro de 2024.
5 "Bug do milênio": 20 anos do primeiro grande desafio de cibersegurança. Disponível aqui. Último acesso em 23 de setembro de 2024.
6 STF libera pesquisas com células-tronco embrionárias. Disponível aqui. Último acesso em 23 de setembro de 2024.