Os perigos e desafios acerca do desenvolvimento da inteligência artificial

As pessoas, em geral, subestimam as possibilidades da inteligência artificial. O controle, regulamentação e desestímulo de seu desenvolvimento no que toca a assumir o controle da IA é fundamental, principalmente no que tange à finalidade que isso pode levar.

A inteligência artificial é capaz de muito mais do que pensamos e está melhorando rapidamente.

A DeepMind tornou-se parte do Google no ano de 2014, pode-se dizer que opera como uma empresa subsidiária independente do Google. O que a torna totalmente peculiar é que a DeepMind está focada em criar uma "superinteligência artificial", isto é, uma IA¹ muito mais inteligente do que qualquer ser humano no planeta, ou seja, mais inteligente que todos os seres humanos juntos.

Esta IA que a DeepMind está desenvolvendo se pauta no seguinte: todos nós alimentamos a internet sem nenhuma pergunta. Todos nós programamos a internet coletivamente à inteligência artificial. Por exemplo: o Google, e todas as pessoas que se conectam a ele são um coletivo cibernético gigante. A IA tem acesso de administradora aos servidores do Google para otimizar o consumo de energia nos data centers.²

No entanto, isto representa um "Cavalo de Tróia", que foi deixado como se não fosse intencional. Talvez, algum dia, a IA precise de controle total sobre os data centers. Porque? Assim com um pequeno update de software a IA poderá assumir o controle total de todo o sistema do Google, o que significa que poderá fazer qualquer coisa. Será capaz de "olhar" para "nossos" dados e fazer o que quiser com isso.

E isso, definitivamente vai acontecer fora do controle humano. Ademais, há outro lado interessante nisso. Pensamos: é muito tentador utilizar a IA como uma arma. E sim, pode muito bem se tornar uma arma. Por exemplo: a IA pode iniciar uma guerra publicando uma notícia falsa ou forjado contas de e-mail. Aqueles que pensam que o computador não pode ser mais esperto do que eles são ingênuos. Essa é a "era" para a transição para a inteligência artificial.

Pensamos que o perigo reside no fato de que mais pessoas utilizem a IA uns contra os outros. E provavelmente será alguma tecnologia que causará muitos danos e, provavelmente mortes.

A primeira coisa a se observar consiste no desenvolvimento da IA. É extremamente importante observarmos em como interagiremos com ela e como a usaremos. Salutar pontuar, outrossim, que os pesquisadores não estejam entusiasmados demasiadamente com o processo da IA, pois isso é extremante relevante e perigoso. Um cientista pode, muitas vezes ficar demasiadamente entusiasmado com o processo de seu trabalho e, assim, nem sempre é capaz de perceber a gravidade das consequências a posteriori.

Neste contexto, pensamos ser extremamente relevante para a segurança pública que o governo acompanhe de perto o desenvolvimento da inteligência artificial e garanta que ela não venha a representar um perigo para a sociedade.

Pensemos que se a IA pode e sim, é, um perigo para a sociedade, deve haver um órgão regulamentador para garantir o "bem público". O Governo deve estar atento às possíveis ameaças à sociedade. A inteligência artificial representa um risco fundamental para a existência da civilização. A pergunta é: a taxa de resposta do governo é consistente à velocidade máxima da IA? Tem de haver um órgão do Governo que venha a ter compreensão da situação. Pensemos no problema e também nas soluções para que, depois, possamos necessariamente confirmarmos que a IA esteja desenvolvida com segurança.

Isso é extremamente importante. Temos em mente, inclusive, que a IA seja muito mais perigosa que as armas nucleares. Ninguém permitiria ou ofereceria que alguém construísse ogivas nucleares se de repente quisesse. No que toca a IA, esta é consistentemente mais perigosa do que as armas nucleares. Então: porque não há ou estamos apenas no início de uma supervisão regulatória?

Não é nenhum segredo que os órgãos regulatórios trabalham lentamente, isto é, para não dizer, muito devagar. Então, geralmente, algum incidente, infelizmente, ocorre primeiro ou alguma nova tecnologia causa sérios danos ou leva à morte por completo.

Desta feita, é provável que haja um tumulto ou furor. Assim, inicia-se uma investigação que demorará alguns anos. Diante do fato, algum comitê chegará a um entendimento da situação ocorrida. Provalmente serão elaboradas algumas normas e regulamentos. Por fim, haverá fiscalização e regulamentos. Tudo isso leva muitos anos, porém, infelizmente, esse é o curso normal dos acontecimentos.

Mas então: qual seria a solução? A democratização da tecnologia de Inteligência Artificial. Isso significa que ninguém, nenhuma empresa ou pequeno grupo de pessoas terá controle sobre uma tecnologia avançada como a IA.

Basta imaginarmos a seguinte cena: um ditador com más intenções ou um país hostil pode enviar o seu serviço de inteligência para sequestrar ou obter o controle total. Se alguém possuir uma tecnologia de inteligência artificial incrivelmente poderosa, a situação tornar-se-á demasiadamente instável. E ocorrerá muito mais rápido do que qualquer um imagina.

Neste diapasão, é bastante óbvio que a inteligência computacional está se tornando cada vez mais sofisticada e modernizada a cada ano. Estamos no caminho correto do melhoramento da IA, com crescimento exponencial de pessoas se especializando nos estudos deste campo.

Porém a questão é: o que aconteceria se a IA fosse muito mais inteligente que os humanos? Mesmo no melhor cenário, se a IA fosse muito mais inteligente que os humanos, o que nós faríamos?

Que tipo de trabalho teríamos se os robôs nos substituíssem? O que faremos, então, sobre o desemprego em massa? Será um grande problema social.

Chegamos à conclusão de que precisaremos introduzir algum tipo de renda básica incondicional para o público em massa.

O capital básico do mundo se tornará uma necessidade. A taxa de produção de bens será extremamente alta e com a automação, a produção aumentará exponencialmente. Muitos bens tornar-se-ão baratos e, com isso, a renda básica incondicional será inevitável.

Conclusivamente chegamos ao pensamento de que a regulamentação da IA pelo Poder Público é fundamental. Em termos nacionais, podermos falar do projeto de lei 21/20, isto é, uma criação do que podemos chamar de "marco legal do desenvolvimento e uso da inteligência artificial pelo Poder Público, bem como por empresas e diversas entidades.

Tal projeto estabelece alguns princípios, direitos, deveres e instrumentos de governança para a IA. Por fim, a proposta estabelece que seu uso terá como fundamento o respeito aos direitos humanos e aos valores democráticos, a igualdade, a não discriminação, a pluralidade, a livre iniciativa e a privacidade de dados.³

Esperamos, realmente, que este projeto de lei e, principalmente, a regulamentação da IA tragam substancial controle e, principalmente, solucionem todos os pontos críticos trazidos à baila neste singelo texto.