Inteligência artificial, reconhecimento facial e LGPD: o que tudo isso tem a ver com você?

Publicado em 1949, a distopia "1984" escrita por George Orwell, revela-nos um mundo verdadeiramente assustador, no qual o Big Brother se fazia onipresente, observando e controlando a tudo e a todos.

Nas palavras de Winston, personagem principal do livro, "você era obrigado a viver - e vivia, em decorrência do hábito transformado em instinto - acreditando que todo som que fizesse seria ouvido e, se a escuridão não fosse completa, todo movimento examinado meticulosamente".

Mais de 70 anos, e muito avanço tecnológico, depois, deparamo-nos com uma realidade não muito distante daquela descrita por Winston, uma vez que a combinação entre inteligência artificial e reconhecimento facial é empregada em larga escala nos mais diversos países.

E quais consequências a aplicação desse tipo de tecnologia pode desencadear?

Lançado recentemente, o Documentário Coded Bias apontou questões bastante preocupantes relacionadas ao reconhecimento facial, principalmente, por reforçar comportamentos discriminatórios e propiciar um perigoso controle social por meio da vigilância em massa.

No documentário, Joy Buolamwini, pesquisadora do Instituto de Tecnologia de Massachusetts (MIT), uma mulher negra, percebeu que sistemas de reconhecimento facial bastante conhecidos não detectavam o seu rosto. Isso porque, em geral, os algoritmos detectam com mais facilidade rostos de homens brancos, motivo pelo qual, Joy somente era facilmente identificada quando colocava uma máscara branca.

Outras experiências também foram abordadas, em uma delas, no Reino Unido, um menino negro de 14 anos foi detido pela polícia ao andar pela rua e, de forma vexatória, foi sujeito à revista e à coleta de suas digitais. O motivo da abordagem? O sistema de reconhecimento facial da Polícia, erroneamente, acusou-o como sendo alguém procurado pela polícia.

Inclusive, situação semelhante foi noticiada recentemente, um homem negro foi identificado como autor do furto em uma loja de produtos de luxo pelo sistema de reconhecimento facial utilizado pela polícia de Detroit (EUA), o que foi constatado como um erro após ele passar a noite preso e ser submetido a interrogatórios.

Diante das ocorrências listadas, faz-se oportuno registrar que o emprego da inteligência artificial não se limita à vigilância, como ressaltado pela pesquisadora do MIT, os mesmos algoritmos das mesmas big techs são utilizados para outras finalidades, como para obtenção de crédito, ingresso às faculdades, bem como processos de recrutamento e seleção.

Atenta aos mais recentes debates, a Comissão Europeia propôs o regulamento do uso de inteligência artificial, tendo como critério norteador o nível de risco propiciado por cada sistema, aqueles considerados de risco inaceitável¹ ficam proibidos, mas aqueles classificados como sendo de risco elevado podem ser aplicados, desde que observem a requisitos rigorosos², exemplo desta última categoria seriam os sistemas de identificação biométrica à distância.

A proposta foi apoiada pelo European Data Protection Supervisor (EDPS) que, no entanto, lamentou que os seus pedidos anteriores de proibição temporária do uso de sistemas de identificação biométrica em áreas públicas, tais como o reconhecimento facial, não tenham sido avaliados.

No Brasil, o tema também ganhou destaque com o Projeto de lei 865/19 do Estado de São Paulo, que torna obrigatória a instalação de câmeras de reconhecimento facial nas estações de metrô e no interior dos vagões, bem como com a recente polêmica em torno do uso de reconhecimento facial pela Central Única de Favelas (CUFA) para distribuição de alimentos.

Todos esses casos evidenciam que o problema não está na tecnologia em si, mas sim, na sua aplicação. Qual é a sua finalidade? De que forma o emprego da inteligência artificial com o reconhecimento facial impacta o cidadão? A sua utilização realmente é necessária?

Essas, assim como outras perguntas, precisam ser esclarecidas, e as suas respostas devem estar em consonância com a Constituição Federal (art. 5º, inciso X) e com a legislação, neste caso, a lei Geral de Proteção de Dados Pessoais (LGPD).

Segundo a LGPD, a liberdade, os direitos humanos, a dignidade e o exercício da cidadania constituem fundamentos da disciplina da proteção de dados (art. 2º, incisos III e VII), assim como a não discriminação (art. 6º, inciso IX) constitui um princípio a ser observado em qualquer tipo de tratamento, o que implica na impossibilidade de realizar qualquer tipo de operação com fins discriminatórios ilícitos ou abusivos.

Nessa lógica, a importância dos dados pessoais, ou melhor, a consciência da sua importância, revela-se inequívoca. O emprego massivo dos dados pessoais já é uma realidade há muito tempo, a preocupação com a proteção aos titulares desses dados (as pessoas naturais e não as empresas ou o Poder Público) é que constitui uma novidade.

Sendo assim, torna-se insustentável limitar-se a afirmar que a razão para estar em conformidade com os ditames da LGPD se restringe às sanções administrativas ou à boa reputação. Todos nós, enquanto cidadãos da mesma sociedade, estamos sujeitos às (ou quase) mesmas circunstâncias que nos levam a um modelo no qual somos vigiados, medidos e classificados sem o conhecimento do porquê e nem para qual finalidade.

Daí a relevância de compreender, de uma vez por todas, que a disciplina da proteção de dados não é somente sobre mim ou sobre você, diz respeito a todos e, o mais importante, ao exercício dos seus respectivos direitos e liberdades.

_____________

1. Os sistemas com riscos inaceitáveis são aqueles que "os sistemas de inteligência artificial são considerados uma clara ameaça à segurança, aos meios de subsistência e aos direitos das pessoas".

_____________

BRASIL. lei Federal 13.709, de 14 de agosto de 2018. lei Geral de Proteção de Dados Pessoais (LGPD). Disponível aqui. Acesso em 27 de abril de 2021.

COMISSÃO EUROPEIA. Uma Europa preparada para a Era Digital: Comissão propõe novas regras e ações para promover a excelência e a confiança na inteligência artificial? Disponível aqui. Acesso em 27 de abril de 2021.

EDPS. Artificial Intelligence Act: uma iniciativa bem-vinda, mas a proibição da identificação biométrica remota no espaço público é necessária. Disponível aqui. Acesso em 27 de abril de 2021.

ESTADO DE SÃO PAULO. ASSEMBLEIA LEGISLATIVA. Projeto de lei 865 /2019, que torna obrigatória a instalação de câmeras de reconhecimento facial em todas as estações do Metrô e da CPTM, bem como no interior dos vagões das composições. Disponível aqui. Acesso em 28 de abril de 2020.

FEITORA, Alessandro. Por que a Cufa interrompeu o uso de reconhecimento facial após polêmica. Disponível aqui. Acesso em 28 de abril de 2021.

MELO, João Ozorio de. Ação pede banimento da tecnologia de reconhecimento facial nos EUA. Disponível aqui. Acesso em 27 de abril de 2021.

ORWELL, George. 1984. São Paulo: Companhia das Letras, 2009. Tradução de Alexandre Hubner, Heloisa Jahn. p. 13.