Neuralink, Elon Musk e a caixa de pandora das neurotecnologias

No dia 29 de janeiro, o empresário e investidor Elon Musk noticiou, por meio da plataforma "X" (nova denominação do Twitter), que a Neuralink, uma de suas empresas, havia implantado seu primeiro dispositivo BCI - Brain Computer Interface em um voluntário, participante de um ensaio clínico. O experimento, autorizado pelo FDA - Food and Drug Administration -, que é a agência sanitária dos Estados Unidos, deverá investigar a segurança e efetividade do produto, denominado "N1", que foi desenvolvido para permitir que o usuário controle equipamentos externos ao corpo, por meio de seus pensamentos ou ondas neurais, algo que se assemelha a um controle remoto telepático. 

De acordo com as informações que constam da página da internet da empresa (neuralink.com), os voluntários recrutados para o ensaio clínico deveriam ser pessoas com quadriplegia - paralisia dos quatro membros -, decorrente de comprometimento da função cerebral e/ou de dano na medula espinhal.

A tecnologia não é nova, existem inúmeros ensaios clínicos parecidos em grandes centros de pesquisa no mundo, cujos resultados são muito promissores, especialmente para tratamento e reabilitação da saúde. Há também iniciativas que procuram aplicá-la em jogos, em sistemas de realidade virtual e para aprimorar ou potencializar habilidades humanas.

Porém, a partir do momento que Elon Musk manifesta interesse pelas neurotecnologias, surge expectativa e apreensão em relação a seu potencial de investimento neste campo, o que certamente viabilizaria a oferta de tais dispositivos em escala comercial, eventualmente impulsionando a utilização indiscriminada e/ou inadequada. 

O Brain Computer Interface, que pode ser traduzido para Interface Cérebro-Computador, é uma inovação que possibilita a comunicação direta entre o cérebro e um dispositivo externo, por meio da interface cognitiva, que é implantada. O indivíduo passa a controlar equipamentos - celular, computador, exoesqueleto etc. - por meio de sinais neurais, captados pelo implante cerebral.

Se uma tecnologia disruptiva como a do BCI vier a ser disponibilizada comercialmente, ela promoverá grandes possibilidades para o desenvolvimento de novos produtos desta natureza e abrirá uma janela de oportunidade para empreendedores e entusiastas das novas tecnologias. Em princípio, essa é uma ótima notícia, considerando os potenciais benefícios científicos, médicos, sociais e econômicos envolvidos. Por outro lado, se ocorrer com os BCIs o que ocorreu com o Chat-GPT e outros modelos de inteligência artificial generativa, que foram disponibilizados livremente e em âmbito global, será aberta uma caixa de pandora, com potencial danoso e de difícil solução.

Como afirma o neurocientista espanhol Rafael Yuste, da Universidade de Columbia, "a neurotecnologia, como todas as tecnologias humanas desde o fogo, é neutra e pode ser utilizada para o benefício da população ou em seu detrimento e é especialmente preocupante que as neurotecnologias comerciais, que começam a ser vendidas por todo o mundo, sejam tratadas legalmente como eletrônicos de consumo, apesar de serem utilizadas para extrair dados sobre a atividade cerebral." ¹

Yuste lidera um movimento que, a partir de um artigo publicado na revista Nature em 2017², vem chamando a atenção de entidades, governos e a comunidade acadêmica para a necessidade de se regular os neurodireitos - direitos sobre os dados neurais -, defendendo sua incorporação dentre os já reconhecidos direitos fundamentais dos seres humanos.

Considerando que já é possível acessar, registrar e manipular os dados neurais de um indivíduo, há grande preocupação com questões como privacidade, consentimento, autonomia, identidade, inequidade, livre arbítrio e vieses que as neurotecnologias podem promover, se empregadas de forma indiscriminada e sem a adequada regulação. Sua ambivalência permite que, além das promissoras inovações para a área médica e da saúde, elas também viabilizem ferramentas de registro e controle da mente humana para uso em âmbito comercial, militar, político, judicial, educacional e laboral.

O movimento para a regulação dos neurodireitos pretende a imposição de limites éticos e jurídicos para o desenvolvimento e utilização das neurotecnologias, especialmente buscando a preservação dos direitos subjetivos envolvidos e a garantia da manutenção do princípio da dignidade da pessoa humana. Com este propósito, a organização Neurorights Foudation³ elaborou cinco princípios ou neurodireitos, considerados mais relevantes e trabalha para incorporá-los a diretrizes éticas internacionais bem como a quadros legais e regulatórios nacionais.

O primeiro princípio discorre sobre o direito à identidade pessoal, para o qual devem ser desenvolvidos limites que impeçam que a tecnologia perturbe o senso de identidade própria. O segundo trata do direito ao livre arbítrio, no sentido de permitir aos indivíduos o controle total sobre suas próprias tomadas de decisão, sem manipulação desconhecida por neurotecnologias externas. O terceiro se preocupa com o direito à privacidade mental, com o fim de garantir que qualquer dado obtido da medição da atividade neural seja mantido privado. O quarto prevê o direito ao acesso igualitário à ampliação mental, para a qual deverão ser criadas diretrizes baseadas no princípio da justiça garantindo igualdade de acesso a todos os cidadãos. Por fim, o quinto princípio traz o direito à proteção contra viés algorítmico e está intrinsicamente ligado à utilização da IA.

O empenho dos ativistas dos neurodireitos em prol do desenvolvimento ético das neurotecnologias vem resultando em vitórias a serem comemoradas ao longo dos anos.  Organizações de âmbito internacional, tais como a OCDE - Organização para a Cooperação e Desenvolvimento Econômico, o Parlamento Europeu, o Conselho da Europa, a OEA - Organização dos Estados Americanos e a UNESCO já editaram recomendações para o uso seguro das neurotecnologias.

Também é resultante desse trabalho e conscientização o surgimento em alguns países de normas de efeito cogente (obrigatórias), definindo limites à utilização das neurotecnologias e estabelecendo a responsabilização e punição em caso de descumprimento.⁴

No Brasil, até o momento, existe um projeto de Emenda Constitucional (PEC 29/23) que pretende alterar o texto da Constituição Federal para incluir, entre os direitos e garantias fundamentais do art. 5º, a proteção a` integridade mental e a` transparência algorítmica.⁵ E, em dezembro de 2023, Estado do Rio Grande do Sul aprovou uma proposta à Emenda à Constituição do Estado, alterando o parágrafo único de seu art. 235 para incluir a 'integridade mental do ser humano' como uma das bases da política de pesquisa científica e tecnológica promovidas pelo governo.

Embora exista alguma resistência ao controle governamental imposto às novas tecnologias, justificada pela premissa de que o excesso de normas pode criar entraves a seu desenvolvimento, é relevante arguir que, a falta de regulação não impede responsabilização em âmbito jurídico dos desenvolvedores, produtores e utilizadores destas tecnologias no caso de danos a terceiros.⁶

Ademais, diante do paradoxo de uma tecnologia tão potente e promissora - para o bem e para o mal -, torna-se imprudente e ingênuo abrir a porta do desconhecido, na esperança de que haverá uma autorregulação do mercado ou a benevolência de seus operadores.

Deve-se prezar pela precaução e promoção de ações para impedir um dano maior, de proporções ainda incertas. Na prática, é mais conveniente e seguro que exista uma prévia delimitação das responsabilidades, a fim de que todas as partes compreendam os riscos envolvidos, podendo atuar para evita-los.

Em outros tempos, Charles Darwin afirmou, a partir de sua criteriosa observação, que muitas vezes "a ignorância gera mais confiança do que o conhecimento", o que pode nos levar a conjecturar que assumir grandes riscos frente ao incerto nem sempre leva ao caminho do progresso e da evolução.

Se a curiosidade é inerente à condição humana e nos impulsiona para o novo, a prudência por vezes pode nos manter a salvo de perigos incógnitos, especialmente quando o objeto de desejo se encontra oculto ou nebuloso.

---------------

Artigo originalmente publicado em: Gazeta do Povo, 18/05/24: https://www.gazetadopovo.com.br/opiniao/artigos/neuralink-elon-musk-caixa-pandora-neurotecnologias /Gazeta do Povo. Todos os direitos reservados.