A história do Cavalo de Troia e a inteligência artificial na saúde: O caso dos neurodireitos em implantes cerebrais

A história do Cavalo de Troia e a questão dos neurodireitos em implantes cerebrais têm uma ligação fascinante que merece ser explorada mais profundamente, sobretudo à luz dos atuais avanços e promessas tecnológicas da IA aliada à neurociência, bem como das recentes notícias sobre eventos adversos ocorridos e potenciais riscos neste contexto.

Na antiga cidade de Troia, um presente enigmático foi deixado às suas portas: Um enorme cavalo de madeira, oferecido pelos gregos como símbolo de rendição e paz. Os troianos, acreditando que era um presente divino, trouxeram o cavalo para dentro de suas muralhas, apenas para descobrir tarde demais que guerreiros estavam escondidos dentro dele, prontos para abrir os portões e permitir a invasão.

Uma citação clássica que menciona o Cavalo de Troia é de Virgílio, o poeta romano, em sua obra ‘Eneida’: “Timeo Danaos et dona ferentes” (em tradução livre: “Temo os gregos, mesmo quando trazem presentes”). Esta frase é dita por Laocoonte, um sacerdote troiano, alertando sobre os gregos e seu presente enganoso, o Cavalo de Troia. A narrativa lendária, que faz parte da mitologia grega, é também mencionada na obra ‘Odisseia’ de Homero. Esses textos clássicos descrevem a engenhosidade dos gregos e a tragédia que se abateu sobre Troia, fornecendo uma rica narrativa que tem sido reinterpretada ao longo dos séculos em várias formas de arte e literatura.

Contemporaneamente, há referência ao Cavalo de Troia em um cenário que envolve tecnologias computacionais, de autoria atribuída à Ken Thompson, um dos pioneiros da computação e criador da linguagem de programação B e do sistema operacional Unix. Em seu discurso de aceitação do Prêmio Turing em 1984, intitulado Reflections on Trusting Trust, ele afirmou: “nenhuma quantidade de verificação de fonte ou escrutínio irá proteger você de usar um código mal-intencionado. (...) Eu tenho pensado no instalador como uma espécie de Cavalo de Troia. (...) você não pode confiar em um código que você não criou inteiramente.” ⁱ

Thompson alertou sobre os riscos de confiar em softwares desenvolvidos por terceiros e levantou a possibilidade de que até mesmo os desenvolvedores dessas tecnologias podem ser pressionados por suas empresas a incluir portas traseiras (backdoors) ocultas no software. Em outras palavras, mesmo que o desenvolvedor não tenha previamente a intenção, ele acaba sendo compelido a incluir essas vulnerabilidades devido a exigências corporativas. Este discurso destaca a importância de uma reflexão crítica sobre o desenvolvimento tecnológico.

Analogamente, na era digital da medicina, recebemos um presente tecnológico: Sistemas de IA. Assim como o Cavalo de Troia, a IA chega ao setor de saúde prometendo inovação, oferecendo cuidados mais eficientes, com diagnósticos antecipados e mais precisos, além de tratamentos personalizados revolucionários. Médicos e pacientes, fascinados pelas possibilidades, aceitam determinada tecnologia confiando que ela trará apenas benefícios.

Contudo, dentro dessa maravilha tecnológica, podem estar ocultos desafios e riscos, bem como o verdadeiro objetivo por trás do seu desenvolvimento. Usos mal intencionados das tecnologias emergem como guerreiros escondidos que precisamos observar atentamente.

No campo das decisões clínicas apoiadas em IA, há o risco significativo de os algoritmos não serem devidamente validados, resultando em incorretos diagnósticos e propostas de tratamento. Além disso, a IA pode perpetuar vieses existentes nos dados, resultando em disparidades de tratamento entre diferentes grupos de pacientes. Destaca-se, ainda, o risco de dependência excessiva na tecnologia, que pode levar à desvalorização do julgamento clínico humano, comprometendo a qualidade do atendimento ao paciente.ⁱⁱ

Stephen Hawking fez uma importante declaração em entrevista ao jornal BBC News em dezembro de 2014, discutindo as implicações do desenvolvimento da IA e expressando suas preocupações sobre o potencial de alcançarmos a ‘superinteligência artificial’ – e isso representar um risco existencial para a humanidade: “O desenvolvimento da inteligência artificial poderia significar o fim da raça humana. (...) ela [IA] decolará sozinha e se redesenhará em um ritmo cada vez maior. Os humanos, que são limitados pela lenta evolução biológica, não poderiam competir e seriam suplantados.” ⁱⁱⁱ

De modo similar, tecnologias neurológicas baseadas em IA (Brain-Computer Interface - BCI), que prometem conectar nossos cérebros diretamente a computadores ou a outro dispositivo fora do corpo humano, levantam preocupações significativas sobre invasão de privacidade e controle mental. Se não formos cuidadosos, o que parece ser uma dádiva pode se transformar em uma enorme ameaça.

Recentemente, Elon Musk anunciou a implantação de um chip cerebral em uma pessoa, prometendo revolucionar a interface entre o cérebro e a tecnologia. O objetivo anunciado para neurotecnologias, como a mencionada, abrange diversos benefícios potenciais:

1. Reabilitação de paralisias limitantes, danos cerebrais, distúrbios neurológicos e mentais, com comprometimento do sistema motor e/ou linguístico: As neurotecnologias ajudariam a restaurar a função motora em pessoas que sofreram lesões na coluna vertebral ou tiveram acidentes vasculares cerebrais. Esses implantes transmitiriam sinais do cérebro diretamente para dispositivos que auxiliam no movimento, permitindo aos indivíduos paralisados recuperarem a capacidade de andar ou usar as mãos. Além disso, poderiam ajudar na recuperação da fala em pacientes com distúrbios neurológicos que afetam a comunicação.^iv
2. Tratamento da dor e da epilepsia: Os implantes cerebrais seriam usados para controlar crises epilépticas em pacientes que não respondem a medicamentos tradicionais, monitorando e modulando a atividade elétrica no cérebro.^v Além disso, funcionariam para o tratamento de dores crônicas, bloqueando os sinais de dor antes que cheguem ao cérebro.^vi A capacidade de ajustar e otimizar a atividade cerebral levaria também a melhorias cognitivas, potencialmente ajudando em condições como Alzheimer e outras formas de demência.
3. Restabelecimento da audição e visão: As neurotecnologias ofereceriam soluções inovadoras para pessoas com deficiências sensoriais. No caso da audição, implantes cocleares seriam conectados diretamente ao cérebro, melhorando a capacidade auditiva em pessoas surdas ou com perda auditiva severa. Para a visão, chips implantados na retina ou diretamente no córtex visual auxiliariam a restaurar a visão parcial ou completamente, em indivíduos com deficiências visuais, permitindo-lhes perceber luzes, formas e até mesmo cores.^vii

Além dos benefícios supracitados, estudos desenvolvidos nas últimas décadas revelam o potencial dos neurodispositivos expandirem as capacidades humanas, proporcionando novas formas de interação com aparelhos eletrônicos e possivelmente melhorando a qualidade de vida de muitas pessoas. Esse avanço na integração entre neurociência e tecnologia abre portas para inovações significativas, transformando não apenas a medicina, mas também a forma como nos comunicamos e nos divertimos. A aplicação de neurotecnologias pode revolucionar, inclusive, a indústria do entretenimento, oferecendo experiências imersivas e personalizadas em jogos, filmes e outras formas de mídia.

Recentemente, noticiou-se o caso de Noland Arbaugh, atualmente com 30 anos, que é tetraplégico e perdeu o movimento abaixo do pescoço após um acidente, inscrevendo-se para participar em 2023 dos primeiros testes em humanos da Neuralink, que desenvolve implantes cerebrais. O paciente afirma que resolveu participar do experimento porque sente que Musk impulsiona o progresso dessa tecnologia e “tudo que ele toca se transforma em ouro”. ^viii

Neurotecnologias, como a desenvolvida pela startup supracitada, geralmente utilizam algoritmos de IA em várias etapas do seu funcionamento, a exemplo do processamento de sinais. Isto é, a IA pode ajudar a interpretar os sinais neurais captados pelos eletrodos implantados no cérebro. Esses sinais são extremamente complexos e variam de pessoa para pessoa, razão pela qual a IA pode aprender a decodificar os sinais para entender as intenções e comandos do usuário. Observe-se, portanto, que os algoritmos de IA podem ser utilizados para personalizar o funcionamento do dispositivo para cada indivíduo, ajustando-se automaticamente às mudanças nos padrões de sinal ao longo do tempo.

No caso de Arbaugh, que se tornou a primeira pessoa a participar do ensaio clínico em humanos, testando o dispositivo da Neuralink, o seu progresso inicial foi recebido com bastante entusiasmo, sendo possível mover o cursor do mouse por meio de programas de computador traduzindo os disparos dos neurônios em seu cérebro. A ideia proposta foi a de que o cérebro formasse um tecido cicatricial ao redor dos fios na base do cérebro para segurá-lo. A tecnologia neural descrita envolve a utilização de interfaces cérebro-computador, permitindo a comunicação direta entre o cérebro da pessoa e um dispositivo externo, como um braço robótico ou computador, tal como no caso narrado.

No entanto, passados quatro meses da implantação do chip, em maio de 2024, a startup de Musk enfrentou severas críticas após 85% dos fios dos implantes se soltarem do cérebro do paciente. A Neuralink ainda enfrenta obstáculos no desenvolvimento de um dispositivo durável. A falha já havia sido revelada no início de maio, mas foi detalhada pela startup no final do referido mês em reportagem no jornal The New York Times.^ix Ademais, noticiou-se que foi corrigido o sistema do chip para o paciente em questão e a FDA - Food and Drug Administration autorizou a realização do teste da tecnologia neurológica com um segundo paciente.^x

Tais questões destacam a necessidade urgente de regulamentos de segurança e proteção dos direitos dos indivíduos em relação à sua atividade neural. Ademais, em qualquer contexto, é essencial avaliar criticamente questões relacionadas aos deveres de informação e vigilância dos profissionais utilizadores da tecnologia, ressignificados frente ao novo arcabouço tecnológico. Como qualquer implante médico, há o risco de rejeição pelo corpo ou infecção no local do implante, o que pode levar a complicações sérias de saúde.

A longo prazo, os efeitos completos de implantes cerebrais ainda são desconhecidos. Pode haver riscos de efeitos adversos que não foram previstos ou detectados nos estudos científicos iniciais. Frise-se, ainda, que os dados neurais do paciente – memórias, pensamentos e emoções – formam a identidade humana e restam expostos pela tecnologia, o que revela a necessidade de proteção, dada sua natureza personalíssima. Por isso, esses dispositivos levantam várias questões relacionadas à proteção dos direitos das pessoas em relação ao seu cérebro e suas atividades neurais, os denominados neurodireitos.

Vale consignar que, para alguns autores, os neurodireitos são uma nova categoria de direitos humanos que surgem em resposta aos avanços em neurociência e tecnologia, especialmente relacionados ao acesso e à manipulação do cérebro humano. Visam proteger a integridade mental e cognitiva dos indivíduos frente a essas inovações tecnológicas. Os principais neurodireitos incluem:^xi

1. Direito à privacidade mental: Proteger pessoas contra a leitura de pensamentos ou acesso não autorizado às suas atividades cerebrais;
2. Direito à identidade pessoal: Assegurar que as intervenções neurotecnológicas não alterem a identidade pessoal de alguém sem consentimento;
3. Direito ao livre arbítrio: Garantir que as tecnologias não interfiram na capacidade de tomar decisões de forma autônoma;
4. Direito ao acesso equitativo às tecnologias de melhoria neurocognitiva: Promover a distribuição justa e acessível de tecnologias que melhoram as capacidades cognitivas;
5. Direito à proteção contra viés e discriminação neurotecnológica: Evitar que as tecnologias neurocognitivas sejam usadas para discriminar indivíduos com base em suas capacidades mentais ou neuroperfis.

O respeito aos neurodireitos é fundamental para assegurar que o progresso tecnológico não comprometa a dignidade, a autonomia e a privacidade dos indivíduos. Ademais, é essencial relembrarmos da narrativa sobre o Cavalo de Troia e, assim, ponderar se a promessa fascinante de uma neurotecnologia não vem acompanhada do risco oculto de atitudes ilícitas – como o desvirtuamento de finalidade do seu uso para exploração lucrativa^xii – por parte dos desenvolvedores do dispositivo, especialmente levando-se em consideração os problemas regulatórios envolvidos, conforme ponderam Fernanda Schaefer e Gisele Machado Figueiredo:^xiii

“No caso específico das neurotecnologias ora analisadas, é possível inferir que os riscos ou o potencial de dano delas decorrentes, ainda não foram corretamente compreendidos pela sociedade e pelos entes reguladores, o que tem levado a uma classificação errônea, permitindo a sua venda sem restrições, quando eventualmente muitos deles deveriam ser classificados como dispositivos médicos e regulados pela agência sanitária. (...) De forma distinta, os produtos que não têm essencialmente finalidade médica, ainda que destinados ao uso em seres humanos, não se submetem à legislação sanitária, sendo isentos de registro prévio na Anvisa. Inseridos nessa condição encontram-se os equipamentos dotados de neurotecnologias, como EEG - eletroencefalograma, cujo intuito declarado é recreacional, a promoção da saúde e do bem-estar.

Essa nova conjuntura merece maior atenção do legislador, uma vez que tais dispositivos “não médicos” acessam indiscriminadamente os dados neurais de seus usuários e os utilizam de forma ampla, desviando-se do propósito para o qual foram contratados. (...) identifica-se uma outra vulnerabilidade, relacionada ao acesso aos dados neurais de um indivíduo, com consequências ainda imprevisíveis. (...) Em um estudo feito pela Fundação Kamanau, verificou-se que as companhias neurotecnológicas apropriam-se dos dados neurais obtidos e que grande parte dos usuários autoriza a cessão dos dados a terceiros.

(...) Resta evidente que dados neurais de pessoas naturais têm potencial para fomentar um banco de dados específico, promovendo o aprimoramento de um algoritmo de inteligência artificial e gerando valor ao dispositivo digital. Verifica-se, portanto, um alto risco de desvirtuamento de finalidade do seu uso, que pode repercutir em exploração lucrativa. (...) A atitude ilícita, no caso, decorre tanto do uso dos dados neurais para fins diversos do que pressupõe o seu titular, bem como da intenção em obter lucro com sua exploração sem o consentimento devido”.

Ao aceitarmos o advento da IA e neurotecnologias no setor da saúde, devemos fazê-lo com sabedoria e precaução, garantindo que estamos preparados para enfrentar qualquer desafio que possa estar oculto em avançadas tecnologias. É crucial que regulamentações éticas e legais sejam estabelecidas e que haja um debate público e político sobre aprovação e fiscalização, além dos limites e responsabilidades no uso de todo o novo arcabouço tecnológico. Só assim poderemos aproveitar os benefícios revolucionários sem cair nas armadilhas que podem estar à espreita.

Yuval Noah Harari, um dos mais proeminentes pensadores contemporâneos, oferece reflexões que se alinham bem com essas preocupações. Sustenta a possibilidade de sermos uma das últimas gerações de Homo Sapiens, pois inovações tecnológicas levarão à evolução para super-humanos.^xiv Explica que a “Inteligência Artificial e a Biotecnologia estão dando à humanidade o poder de reformulação e reengenharia da vida”.^xv Por consequência, pode-se mudar a natureza fundamental do que significa ser humano. Isto porque, nas próximas gerações, aprenderemos a remoldar corpos, cérebros e mentes. Em paralelo, Harari alerta que, à medida que a tecnologia avança, será cada vez mais fácil para os governos e corporações monitorarem cada um de nós o tempo todo:

“Neste exato momento os algoritmos estão observando você. Estão observando aonde você vai, o que compra, com quem se encontra. Logo vão monitorar todos os seus passos, todas as suas respirações, todas as batidas de seu coração. Estão se baseando em Big Data e no aprendizado de máquina para conhecer você cada vez melhor. E, assim que esses algoritmos o conhecerem melhor do que você se conhece, serão capazes de controlar e manipular você, e não haverá muito que fazer. Você estará vivendo na Matrix, ou no Show de Truman. Afinal, é uma simples questão empírica: se os algoritmos realmente compreenderem melhor que você o que está acontecendo dentro de você, a autoridade passará para eles”.^xvi

Abraçar a inovação é um passo essencial para o progresso, mas fazê-lo de maneira crítica e com sabedoria é vital para garantir que essa jornada tecnológica enriqueça nossas vidas sem sacrificar direitos e liberdades fundamentais. Precisamos navegar cuidadosamente entre as promessas do futuro e as lições do passado, garantindo que cada avanço brilhe como uma estrela guia, iluminando o caminho para um mundo melhor, sem que sombras de descuido obscureçam nossos direitos e valores mais preciosos.

Assim como os troianos, que ao aceitarem o Cavalo de Troia permitiram a entrada de um inimigo disfarçado em seu refúgio, devemos ter cautela e discernimento ao integrar novas tecnologias no setor da Saúde, assegurando que, por trás de seus benefícios aparentes, não se escondam perigos que possam comprometer a integridade e a segurança de todos, a exemplo dos riscos de violação aos neurodireitos apresentados nestas breves reflexões.