Responsabilidade civil e teletriagem médica: O exemplo da vedação aos chatbots

A utilização de sistemas automatizados, que dispensam a participação ou revisão humana (human in the loop), se tornou uma tendência irrefreável. Isso tem levado à implementação de novas tecnologias na telemedicina, permitindo a realização de atendimentos remotos, encurtando distâncias geográficas e melhorando a celeridade dos serviços prestados na área da saúde.

Embora a automatização de atendimentos tenha vantagens elogiáveis, como a realização de atendimentos remotos síncronos, via ferramentas de videoconferência e webconferência, substituir profissionais humanos por máquinas noutros contextos pode levar a situações que acirram riscos e elevam a possibilidade de danos aos pacientes¹.

Por isso, a regulamentação da inteligência artificial tornou-se uma demanda urgente, pois os sistemas algorítmicos são os mais desejados para a otimização de rotinas dessa estirpe, especialmente nos atendimentos e consultas iniciais, que podem ser compreendidos pelo conceito de “teletriagem”, definido pelo Conselho Federal de Medicina, em sua Resolução n. 2.314/2022, como “o ato realizado por um médico, com avaliação dos sintomas do paciente, a distância, para regulação ambulatorial ou hospitalar, com definição e direcionamento do paciente ao tipo adequado de assistência que necessita ou a um especialista” (art. 11).

Claramente, exige-se a participação humana para a realização do ato, o que evidencia a ilegalidade de tentativas de automatização da triagem inicial de pacientes por sistemas automatizados de interação por mensagens de texto (os famigerados chatbots).

Fato é que, embora a telemedicina e a telessaúde não sejam assuntos absolutamente novos², já se busca a reestruturação dogmática de suas premissas para permitir maior aproximação entre médicos e pacientes, utilizando-se da mobile health (mHealth) e da conexão 5G, bem como da ampliação do acesso a smartphones e da Internet das Coisas³.

No Brasil, a Resolução CFM nº 1.643/2002 definiu e disciplinou a telemedicina. Esta norma, até mesmo pela época em que foi editada, quando a realidade tecnológica era diversa, se mostrava vaga e genérica. Posteriormente, o CFM regulamentou a matéria na resolução nº 2.227/2018, entretanto, esta foi revogada poucos dias após a sua publicação. Finalmente, em 05/05/2022, o CFM publicou a Resolução nº 2.314/2022 e reacendeu o debate sobre os desafios do atendimento remoto.

Com a pandemia de Covid-19, novos desafios surgiram, e o distanciamento social fez com que aumentassem os atendimentos remotos, ainda que de forma relutante e contrariando as expectativas dos profissionais de saúde⁴.

A utilização de smartphones para teleconsultas permite ao paciente "ver" o profissional que o atende, ainda que por vídeo, aproximando mais médicos e pacientes⁵. Cenário bastante diverso é o da automatização completa do atendimento de saúde. Isso porque se deve levar em conta as diferenças culturais de cada coletividade e as particularidades de cada paciente para garantir que sistemas de IA sejam utilizados de maneira ética e responsável na prestação de serviços de saúde. A inteligência artificial não deve substituir a atenção médica humana, mas sim complementá-la, possibilitando o acesso aos serviços de saúde em locais remotos e a otimização de recursos para atendimento mais ágil e eficiente.

A definição de teletriagem, conforme estabelecida no já transcrito artigo 11 da Resolução n. 2.314/2022 do CFM, caracteriza-se como um ato médico que envolve a avaliação remota dos sintomas apresentados pelo paciente. Nesse contexto, a avaliação é conduzida por um médico, permitindo que a análise dos sintomas seja realizada à distância. O principal objetivo desse procedimento é direcionar o paciente para o tipo de assistência adequada, seja ela ambulatorial ou hospitalar, e identificar a necessidade de encaminhamento a um especialista.

É essencial destacar que a teletriagem médica não deve ser confundida com uma consulta médica tradicional. Através desse processo, o médico realiza uma avaliação preliminar dos sintomas e da gravidade do caso, fornecendo uma impressão diagnóstica perfunctória. Portanto, é imperativo que o profissional médico ressalte que a avaliação realizada é uma orientação sobre o diagnóstico e a gravidade da situação.

A autonomia do médico é um aspecto central nesse processo, permitindo-lhe tomar uma decisão preliminar quanto aos recursos médicos a serem empregados em prol do paciente. Ademais, no contexto da teletriagem médica, é fundamental que o estabelecimento de saúde ou sistema de saúde responsável pelo procedimento ofereça um sistema de regulação adequado para o encaminhamento dos pacientes que estão sob sua responsabilidade. Isso significa que, além da avaliação remota dos sintomas, o sistema deve garantir a efetivação das etapas subsequentes, como o encaminhamento para a assistência adequada e o direcionamento ao especialista quando necessário.

Dito isso, mister anotar que a tutela da saúde apresenta contornos próprios e inegavelmente desafiadores no contexto da proteção de dados pessoais. Isso porque os dados relativos à saúde são considerados sensíveis pela Lei Geral de Proteção de Dados Pessoais – lei 13.709/2018 (art. 5º, inc. II), mas, embora haja base legal que lhes é especialmente direcionada (art. 11, II, “f”, da LGPD), por vezes, será o consentimento a melhor opção para o seu tratamento⁶.

Fato é que a telemedicina como um todo passou a contemplar a tendência de virtualização dos atendimentos de saúde, sendo robustecida pela automatização, por exemplo pela utilização de chatbots, que é inviável na teletriagem devido à exigência do Conselho Federal de Medicina de que a participação do médico – profissional humano –seja um componente fundamental desse processo.

As razões para isso residem na imprescindibilidade da avaliação clínica criteriosa dos sintomas do paciente, a qual requer o julgamento clínico e a expertise que apenas um médico pode proporcionar. Os chatbots, por mais avançados que possam ser em termos de qualidade heurística, carecem da capacidade de compreender nuances complexas, considerar contextos individuais e tomar decisões baseadas em julgamentos médicos embasados e lastreados em conhecimento empírico e padrão de conduta ético.

Logo, existem barreiras que devem ser consideradas, como a delimitação de deveres específicos e a responsabilização dos profissionais envolvidos, destacando a importância da confiança nas relações. A pertinência dos princípios da prevenção e precaução é importante para minimizar os riscos inerentes ou potenciais da telemedicina, pois todo "novo dano" acarreta suposições de aceitação social de novas tecnologias não testadas⁷. De outro lado, a aplicação de novas tecnologias tendentes à automatização de processos que dependem do processamento de grandes acervos de dados deve ser realizada com cuidado, considerando riscos de segurança cibernética e vulnerabilidades decorrente do implemento dessas novas tecnologias disruptivas⁸.

A confiança nas relações é fundamental e deve ser considerada no desenvolvimento de novas tecnologias. O processamento de linguagem natural é uma habilidade cada vez mais requisitada para sistemas de atendimento automatizado, especialmente em telemedicina. No entanto, a compreensão do contexto de uma frase é um desafio para as máquinas, mesmo para aquelas que utilizam o método "Winograd Schema", desenvolvido na década de 1970. Assistentes pessoais como Siri, Cortana e Alexa operam com "tags", que são palavras-chave selecionadas pelo algoritmo para simplificar o processamento. No entanto, esse sistema não funciona para o "Winograd Schema", que depende de elementos como artigos e pronomes para deduzir o contexto⁹. Além disso, a riqueza semântica da língua portuguesa e a dicotomia entre gêneros podem tornar a tarefa mais viável em comparação com outros idiomas, como o inglês¹⁰.

A participação humana (do médico) é indispensável para interpretar os dados fornecidos pelo paciente, compreender as informações nas entrelinhas e realizar avaliações mais aprofundadas quando necessário, pois a Medicina não se limita apenas à identificação de sintomas, mas também envolve a consideração de fatores psicossociais, histórico de saúde e outros elementos que podem não ser capturados adequadamente por sistemas automatizados como os chatbots.

Além disso, a boa relação médico-paciente é essencial para estabelecer a fidúcia entre ambos e viabilizar orientações personalizadas que propiciem um ambiente de cuidado holístico, o que não é possível por um chatbot. Somente o médico, com experiência clínica e percepções sensoriais do contato com o paciente, poderá colher e analisar determinados detalhes. Isso representa uma barreira à delegação de certos atendimentos. Logo, embora a inteligência artificial explicável (Explainable AI, ou XAI) esteja em constante evolução, o médico ainda é indispensável para colher e analisar determinados detalhes da situação de saúde do paciente¹¹.

A doutrina estrangeira usa o termo "foreseeability" para descrever o elemento de previsibilidade em casos em que a teoria da culpa é aplicada, como na análise do comportamento negligente de um desenvolvedor de um sistema algorítmico. No entanto, já é reconhecido que é necessário ir além para atender à função preventiva da responsabilidade civil em abordagens nas quais o risco conduza à responsabilização objetiva.

Portanto, quando se trabalha com algoritmos que são incapazes de assimilar o mundo em toda a sua complexidade, tornando-se propensos a erros, a parametrização de modelos-padrão pode ajudar a conciliar a responsabilidade civil com a nova realidade. Esses modelos-padrão são particularmente importantes devido ao potencial de que dados imprecisos e inadequados contaminem os resultados heurísticos.

Isso oferece maior liberdade para o desenvolvimento de métricas autorreguladas para cada tipo de atividade, que podem ser comparadas para determinar a atuação em conformidade, com o risco equivalente aferido para o tipo de atividade algorítmica em questão. Logo, ainda que os chatbots sejam sistemas automatizados amplamente utilizados, seu processamento de linguagem natural ainda é limitado e pode levar a consequências jurídicas em caso de viés decisório na interação com o paciente, especialmente para fins de triagem preliminar¹². Por isso, embora sejam úteis para a coleta de dados cadastrais e estruturação de respostas-padrão, não devem ser utilizados para atendimento médico, mesmo de anamnese. Além disso, a utilização desses sistemas para finalidades que pressupõem a aferição de circunstâncias casuísticas é inviável¹³, pois eles ainda não têm instrumental técnico suficiente para tomar decisões complexas.

No futuro, caso esse cenário se modifique, talvez seja possível parametrizar deveres informados relativos ao desenvolvimento de software com o objetivo de sistematizar expectativas e consequências para o adequado implemento desses sistemas, até mesmo na teletriagem. Até lá, porém, a limitação imposta pelo CFM se revela zelosa e adequada, demandando boa curadoria de dados no antecedente (e em todo o processo algorítmico), que também deve ser auditável, para que danos não ocorram, no consequente, por enviesamento algorítmico.

__________

1 Conferir, por todos, SCHAEFER, Fernanda. Uso de healthbots para a triagem de pacientes em unidades públicas de saúde de urgência e emergência: pensar antes de implantar. In: EHRHARDT JR., Marcos; CATALAN, Marcos; NUNES, Cláudia Ribeiro Pereira (coord.). Inteligência artificial e relações privadas: relações existenciais e a proteção da pessoa humana. Belo Horizonte: Fórum, 2023, v. 2, p. 349-368.