Os limites de atuação do assistente virtual no tratamento automatizado de dados

O tratamento automatizado de dados pessoais de usuários e definição dos respectivos perfis, envolve o uso de algoritmos. A utilização, por qualquer empresa, de um chat, como assistente virtual (robô), para fins de automação da execução de tarefas padronizadas, envolvendo a solução de classes semelhantes de problemas, aplica-se à construção do perfil de personalidade dos usuários.   

O robô utilizado para o chat (conversa) com os usuários de certo serviço é programado para realizar tarefas específicas, e não para discutir aleatoriamente sobre temas abstratos, escolhidos pelo cliente usuário.

A programação adequada do robô, pela empresa que oferece serviço de chat com assistente virtual aos seus consumidores, para as finalidades às quais se destina, é fundamental para evitar que ele cometa erros potencialmente prejudiciais aos seus usuários.

Dúvidas do usuário respondidas por assistentes virtuais que escapam do escopo da sua programação ensejam erros de respostas, que poderão ocasionar danos aos usuários e a responsabilidade civil do fornecer do serviço que se utiliza do assistente virtual.

Para minorar os riscos pelo uso do chat, deve ser celebrado contrato com o usuário, em que se definam os limites de atuação e da capacidade de compreensão do robô que participa do chat.A responsabilidade pelo processo decisório automatizado (sem a participação do ser humano), no mundo digital, é do controlador e do operador do tratamento de dados, de forma solidária, a não ser que comprovem que a responsabilidade por qualquer dano causado foi exclusiva do titular dos dados, como por mal uso do chat, tendo em vista que foi claramente definido o escopo e os limites de utilização do chat.

O Capítulo III, da LGPD - Lei Geral de Proteção de Dados Pessoais, que proximamente terá aplicabilidade concreta, trata dos direitos dos titulares de dados, e o Art. 20, da LGPD, estabelece os direitos dos titulares de dados tratados de forma automatizada, tais como solicitar a revisão dos dados utilizados para a construção e definição do  seu perfil, na qualidade de usuário do chat, que afetem seus interesses.

Exemplo disso são as decisões destinadas a constituição de seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade, denominado de "profiling". O controlador do tratamento de dados obriga-se a fornecer informações claras e adequadas sobre os critérios e os procedimentos utilizados para a decisão automatizada referente ao titular de dados, considerando-se os segredos comercial e industrial da empresa. Se não o fizer, a autoridade nacional (ainda não instituída no Brasil) poderá realizar auditoria para checagem de eventual abuso por parte do robô que tenha prejudicado um titular de dados.

O usuário do chat pode reclamar, por exemplo, o fundamento por não ter sido admitido em processo seletivo para um curso ou um emprego, dos quais era candidato, e poderá questionar tal fato ao organizador do processo seletivo.

A justificativa da empresa de que não pode ser fornecida a informação sigilosa não deve afetar o direito do titular dos dados de ser informado sobre o critério utilizado para constituição e definição de seu perfil e as consequências disso, como as decisões tomadas com base nele.

No tratamento de dados automatizados, como em qualquer outro (conforme o Art. 44º, parágrafo único, da LGPD), é fundamental o controlador e o operador atentarem para as regras de segurança e sigilo (estabelecidas no art. 46, da LGPD) referentes ao manuseio dos dados dos titulares, para evitarem a responsabilização dos danos à eles causados. 

A responsabilidade das empresas pela performance do robô criado para atuar, como se "um empregado fosse", é objetiva, porque o dever de reparar o dano advém do mero exercício da atividade de tratamento de dados pessoais, o qual envolve risco, aos usuários. Tal risco é assumido, junto aos titulares de dados, pelos agentes de tratamento de dados pessoais, como determina o Art. 927, parágrafo único, do CC e os arts. 21, 42 e 44 da LGPD.

Sendo assim, deve constar uma cláusula no contrato a ser celebrado entre a empresa que utiliza o chat e os titulares dos dados, permitindo a coleta e utilização dos dados pessoais dos clientes, de forma automatizada, pela empresa, para a construção do perfil do usuário, com dados de sua personalidade.  Tal contrato deverá permitir que o usuário do chat requeira a revisão, para fins de alteração ou de exclusão, dos dados que compuseram o seu perfil e que não correspondam à realidade, de modo a não lhe prejudicar (Art. 21, da LGPD).

A empresa deverá comprometer-se, em contrato com o cliente, a prestar, ao usuário, de forma clara e transparente, qualquer esclarecimento sobre os respectivos dados pessoais havidos em sua base de dados que afetaram o critério ou procedimento utilizado para a decisão automatizada realizada pelo robô, respeitados os segredos da referida instituição. Não será admitido, pela empresa, qualquer decisão que venha a ter caráter discriminatório, para o que jamais contribuirá, e, ao contrário, afastará imediatamente.

O uso do assistente virtual no tratamento de dados pessoais automatizado limita-se às suas especificidades, de modo que deverá estar programado para atender exclusivamente as questões relacionadas ao objeto do contrato celebrado, razão pela qual outro questionamento ou pedido do usuário, não poderá ser atendido. É preciso fazer constar do contrato que não terá qualquer eficácia resposta fornecida pelo assistente virtual fora do escopo do contrato e de sua atribuição, de modo a afastar, expressamente, a responsabilidade do controlador e operador de tratamento de dados pessoais, em caso de uso indevido do chat pelo cliente, e em desacordo com o seu manual de funcionamento.

__________

*Maria Clara Villasbôas Arruda é advogada e sócia de Pestana e Villasbôas Arruda Advogados.