Já ouviu falar de Privacidade by Designer? É a determinação de, desde a concepção de um projeto, pensar em termos da melhor prática de gestão dos dados, em especial dados pessoais; em função de já nascer adaptado às normas da LGPD (Lei Geral de Proteção de Dados).
Porém, o Direito Digital não para na Proteção de Dados Pessoais, e tem uma elevada gama de outros aspectos que precisam ser respeitados. Ainda nascente, este será o ramo do direito que trará as conquistas da sociedade, presentes por exemplo na Constituição Federal, para dentro do universo digital.
Por isso, desde o nascimento de um projeto, empresa, serviço ou ação em mundo digital, precisa que se mantenha respeito a estes novos aspectos do direito. Em especial com foco nos pilares: autonomia, benefícios e danos e justiça.
A autonomia está vinculada a quão independente e autônoma será a solução. Por exemplo, terá controle humano?
Algoritmos de recomendação de filmes são um exemplo de uma solução onde isso não está presente; mas o risco pode ser considerado baixo. Por outro lado, um que faça sugestões de tratamento médico levam a um maior risco, podendo ser necessário que se tenha a atenção de um profissional envolvida.
Nesta mesma linha está a transparência e explicabilidade, que é a necessidade de que seja possível identificar como determinada decisão foi tomada. Talvez saber como um software recomendou um caminho para chegar ao seu destino não seja muito relevante; por outro lado é provável que você quisesse saber por que um outro rejeitou seu currículo, ainda que você fosse qualificado para a vaga em questão.
O âmbito da autonomia também envolve questões de consentimento e de privacidade, áreas que já estão previstas dentro da legislação atual. A adequação dos dados requeridos ao serviço, e a correta obtenção do consentimento, precisam seguir o que já traz hoje as normas da LGPD.
O aspecto dos benefícios e danos cobrem, por exemplo, os possíveis impactos do uso. Uma câmera que identifica o humor das pessoas e automaticamente adequam a propaganda que aparece em um outdoor eletrônico, podem levar a alguém que já está deprimido ficar ainda mais, ou a uma pessoa fragilizada consumir um produto que, numa condição normal, não o faria; perfazendo uma exploração de fragilidade.
A troca entre possíveis benefícios e riscos também precisam ser avaliados aqui, como no caso do uso de monitoramento dos clientes por meio de aplicativo de smartphone como meio de oferecer benefícios a segurados que, num caso de elevação do risco de problemas cardíacos identificados pelo sistema, podem levar a negativa de cobertura. Ter esse ponto claro, inclusive na comunicação sobre um produto ou serviço, é uma forma de manter-se adequado ao que sugere o direito digital.
Por fim, o desenho deste novo serviço, produto, ou o que quer que seja, deve ser previsto o critério de justiça. Essa parte da correta distribuição dos fardos, passando por critérios de não discriminação, proteção aos vulneráveis, responsabilidade e contestabilidade.
O fardo não pode ser posto totalmente sobre o um dos participantes, precisando ser bem distribuído. A fragilidade da relação de um fornecedor de serviços autônomos em uma plataforma de serviços compartilhados, onde o tomador só remunera o fornecedor quando o trabalho fornecido é considerado por ele como adequado, joga um peso demasiado sobre um dos componentes do funcionamento da proposta; estando clara a necessidade de ser repensado.
A discriminação, muitas vezes decorrentes de falhas na programação, ou problemas no treinamento do algoritmo de inteligência artificial envolvida, são outro ponto a ser combatido. Estes são problemas muito mais presentes do que se pode imaginar, sendo o motivo, por exemplo, do algoritmo de um varejista nunca indicar uma mulher para ser contratada; viés que precisa ser identificado e combatido.
A proteção aos vulneráveis precisa ser pensada de projeto também, para evitar casos como o do uso de sistemas de casa inteligente onde possuem crianças e que, por conta da forma autoritária como os proprietários se relacionam com suas assistentes virtuais, estavam modificando a forma de tratamento com as pessoas. A repetição de ordens como “fulana, ligue a luz”, está levando as crianças a associar este como um tratamento habitual.
O alcance da responsabilidade também precisa ser previsto. As consequências indesejadas da atuação de uma aplicação precisam indicar quem responderá no caso em que falhem. Por exemplo, um leitor de glicemia por smartphone, a partir de implante subcutâneo, caso falhe ao indicar uma ação e prejudique o usuário, precisa prever quem terá obrigação de suportar o ônus.
Como último ponto, é necessário prever a contestabilidade. Não sendo aceitável que prevaleça direitos como o da propriedade intelectual frente a necessidade de ter explicado qual motivo, por exemplo, do baixo score de crédito que uma ferramenta lhe deu ou, como no caso do Compase nos EUA, uma dosimetria da pena maior do que para outros com o mesmo tipo de acusação.
Meios de ter seus resultados previstos precisam vir de projeto, não podendo se atribuir a todo o algoritmo o status de caixa preta. Mesmo resultados de algoritmos de aprendizagem de máquinas podem ter atribuídos cálculos de regressões que tornam viável explicar que variáveis influenciaram o resultado.
Hoje o Direito Digital ainda não existe como um ramo claro do direito, tendo pouco arcabouço legal exclusivo presente. Mas sua lógica é simples: evitar que o mundo digital se forme como território onde as conquistas sociais do mundo físico não sejam respeitadas.
Daí a importância de, desde o projeto, da nascente de uma ideia a ser implementada no mundo digital, prever o alcance do direito e não se afastar do que é justo.