Não há paradoxo maior na opinião popular do que o desenvolvimento da tecnologia digital/virtual, mais especificamente da inteligência artificial e suas derivações. O homem até a quer, mas, ao mesmo tempo, teme. Não à toa este tema vem sendo objeto de debate há praticamente um século, sendo especialmente retratado no universo ficcional através de livros e filmes, mas, mais recentemente, em matérias jornalísticas noticiando acontecimentos mundanos.

Em meados de abril, um usuário do TikTok (@ghostwriter) criou uma música "cantada" pelos artistas Drake e The Weekend, sendo lançada em diversas plataformas, e depois retirada do ar devido a polêmicas voltadas à questão de direitos autorais¹. Não se trata aqui dos já conhecidos "remix", no qual um DJ ou outra determinada pessoa se aventura na música original e cria variações dela, ou até mesmo de músicas "recantadas" por outros cantores, em que fazem uma releitura dela ou simplesmente as cantam com suas próprias vozes. Fala-se, na verdade, da criação de uma música completamente nova, com letra inédita. Um verdadeiro lançamento. Acontece, contudo, que a referida música, chamada "Heart on my Sleeve", nunca foi escrita ou cantada, seja por Drake, seja por The Weekend. Ela é fruto de uma Inteligência Artificial. Até mesmo Paul McCartney vai lançar a última música dos Beatles usando a inteligência artificial para extrair a voz de John Lennon.

Recentemente ocorreu ainda o lançamento do ChatGPT, da empresa OpenAI², um bot com inteligência artificial avançada que conversa com uma pessoa livremente (salvo algumas limitações para conteúdos explícitos/inapropriados impostas pelos desenvolvedores), respondendo a perguntas e questionamentos dos mais variados assuntos e auxiliando em qualquer atividade que tenha maior dificuldade. É uma ferramenta extraordinária, que pode ser usada tanto para trabalho quanto socialmente. No entanto, até quando irá a subserviência dos robôs com inteligência artificial para com seus criadores?

É essa preocupação que foi levantada por Geoffrey Hinton, cientista britânico ex-funcionário da Google, empresa na qual trabalhava desde 2012 e se demitiu recentemente³. Hinton aponta que há um perigo, talvez ainda não tão iminente, mas certamente real, de que a Inteligência Artificial levará à extinção da humanidade. Porém, quando se cogita em extinção da humanidade remete-se imediatamente a cenários pós-apocalípticos dominados por androides ou robôs ou ambientes de iminência destruição da civilização. Para ilustrar, podem ser citadas obras como "O Exterminador do Futuro" (1984), "Eu, Robô" (2004) e "Oblivion" (2013).

Mas este não é o único cenário possível quando se trata de dominação da população pela Inteligência Artificial. Isto porque nossa "extinção" pode não ser levada ao pé da letra, mas interpretada extensivamente, como uma espécie de "implosão" da civilização vítima de sua própria criação. O filme "O Círculo" (2017), por exemplo, retrata uma história da jovem que é contratada por uma gigante da tecnologia, que está desenvolvendo um produto chamado "SeeChange", uma câmera de alta resolução com transmissão ao vivo, com o objetivo de promover a transparência total e compartilhamento constante de informações, sendo assim possível que qualquer um acompanhe a vida de qualquer outro a todo momento, eliminando a privacidade. No filme são explorados os riscos do compartilhamento excessivo de informações pessoais.

Outro cenário possível é a repressão policial sobre as pessoas, acarretando numa população amedrontada e retida, como retratado no filme "Chappie" (2015). Nele, o policiamento de Johannesburgo é feito por uma empresa chamada Tetravaal, que fabrica robôs humanoides chamados de "Scouts". Nessa empresa trabalha o personagem central da trama, um engenheiro de software que desenvolve uma inteligência artificial capaz de "crescer" e aprender, como qualquer ser humano, porém numa velocidade muito mais rápida. A CEO da empresa é contra esta premissa, desejando manter os robôs com inteligência limitada à obediência de ordens e aplicação da lei. O impasse se desenvolve ao longo do filme para tornar possível a transferência da consciência humana para o corpo de um robô, "eternizando" a vida de um indivíduo humano.

Estas são algumas das implicações ficcionais já abordadas nos cinemas acerca do crescimento da robótica e da inteligência artificial em si, mas que cada vez mais parecem estar mais próximas da nossa realidade. Hinton destaca que não se arrepende do que fez, mas que tem grande preocupação do futuro que se aproxima, isto porque, diz ele, o algoritmo de treinamento chamado de backpropagation, criado por ele e outros colegas, em 1986, que vem servindo de base para o desenvolvimento de diversas tecnologias autônomas de inteligência, aprende coisas novas quase que instantaneamente e transmite este conhecimento aos seus pares na mesma velocidade⁴.

Dessa forma, é essencial que haja precaução no desenvolvimento desta e outras tecnologias correlatas, sob pena delas superarem os limites impostos e se "rebelarem" contra a população. O princípio da precaução é o alerta que nunca deve ser esquecido quando estamos diante deste tema, uma vez que o avanço da IA, apesar de altamente benéfico para a sociedade em diversos aspectos, pode ser facilmente revertido, maculado e deturpado, gerando consequências como desempregos em massa, acesso desenfreado à desinformação e violação latente da privacidade⁵. Recomenda-se uma tomada de consciência desses riscos, antes que os danos causados se tornem irreversíveis.

Para tanto, há necessidade de se fazer um crivo de admissibilidade das novas ferramentas tecnológicas - que aparentemente se apresentam como uma realidade desconhecida e somente vista em filmes de ficção científica - para avaliar se colaboram e trazem dividendos favoráveis ao homem ou se delimitam ou cerceiam o seu poder de criatividade.

O pensamento bioético a respeito abre espaço para uma discussão envolvendo a necessária interdisciplinaridade, não no sentido de conter o progresso técnico-científico e sim para direcioná-lo no sentido de acumular benefício para as pessoas. Daí a conclusão de que as novas tecnologias - e porque não dizer mesmo as mais cobiçadas pela humanidade - acarretam modificações no ser humano, pois as ocorrências do mundo exterior irão produzir reflexo imediato no homem.

O dilema apresentado, apesar de ser somente a ponta do iceberg, é oportuno para que a humanidade esparrame seu olhar caleidoscópico - capaz de colher as melhores dimensões para o enfrentamento da mais ousada tecnologia - e encontrar um espaço de convivência harmônica. 

 

__________

1 Disponível aqui.