Juiz suspende compra de câmeras com reconhecimento facial em SP

Justiça de SP suspendeu nesta quinta-feira, 18, o edital do Smart Sampa, programa lançado pela prefeitura que prevê a instalação de 20 mil câmeras de segurança na cidade com tecnologia de reconhecimento facial. O pregão estava marcado para a próxima terça-feira, 23.

A decisão é do juiz de Direito Luis Manuel Fonseca Pires, da 3ª vara de Fazenda Pública. Magistrado apontou que essas câmeras com sistema de reconhecimento facial podem violar a LGPD - Lei Geral de Proteção de Dados e até apresentar "grave ameaça a direitos fundamentais", citando o risco de se reproduzir o racismo estrutural.

"A dimensão do impacto que o sistema tecnológico de monitoramento por reconhecimento facial produz impõe a responsabilidade ao Poder Público de apenas considerar o seu uso após a definição de regras legais precisas que ponderem os objetivos da segurança pública com os direitos fundamentais. Daí porque não há como adquirir o sistema de videomonitoramento sem se saber como esses dados podem ser processados (Lei Geral de Proteção de Dados) e como devem ser ponderados em proteção aos direitos fundamentais."

O edital da prefeitura foi contestado na Justiça pela Bancada Feminista, um mandato coletivo do PSOL na Câmara Municipal de SP. Por meio de nota, a Bancada Feminista avalia que o programa Smart Sampa viola a LGPD e a CF.

"A anulação do pregão irá evitar que a cidade aprofunde o racismo estrutural por parte da administração municipal", escreveu a covereadora Silvia Ferraro, do mandato coletivo. "Já é de conhecimento mundial que as câmeras de reconhecimento facial são máquinas de punir injustamente o povo negro", acrescentou.

No final do ano passado, o TCM - Tribunal de Contas do Município já havia suspendido o edital. Segundo nota do Tribunal, "durante os votos, os conselheiros demonstraram preocupação com o uso de algoritmos de inteligência artificial para reconhecimento facial, especialmente no que diz respeito à preservação dos direitos e liberdades individuais previstos na Constituição Federal".

Segundo o prefeito de São Paulo, Ricardo Nunes, essas câmeras vão ajudar a administração municipal "na questão da segurança e na mobilidade da cidade".

(Imagem: Freepik)

Smart Sampa prevê a instalação de 20 mil câmeras de segurança na cidade de SP.(Imagem: Freepik)

Argumentos do juiz

Na decisão que suspendeu o pregão, o magistrado ponderou que o sistema de monitoramento por reconhecimento facial na estrutura de políticas de segurança pública encontra fortes dilemas jurídicos além de relevantes debates éticos com repercussões no sistema jurídico.

Segundo o juiz, favoravelmente à proposta desse sistema pode-se considerar a relevância do uso da tecnologia que dinamiza a coleta de dados, o processamento de informações, compartilhamento entre instituições públicas, eficiência nos canais de comunicação de órgãos públicos e, consequentemente, maior agilidade no planejamento de ações e intervenções no âmbito da segurança pública.

Por outro lado, de acordo com o magistrado, há relevantes objeções jurídicas que precisam ser reconhecidas e destacadas:

"Inúmeros pesquisadores de diversas áreas (direito, psicologia, sociologia, tecnologia de informação entre outras) e instituições renomadas (do Brasil e do exterior) apontam para riscos concretos de reprodução do racismo estrutural no uso do sistema de monitoramento por reconhecimento facial porque essa tecnologia reproduz padrões de discriminação incorporados na cultura e na dinâmica institucional das sociedades sem permitir qualquer revisão desses graves comportamentos. Exemplifico a assertiva com a referência à pesquisa da Rede de Observatórios da Segurança de que 90% das prisões feitas no Brasil por meio dessa tecnologia (dados coletados em 2019) foram de pessoas negras, e entre elas houve erros de identificação que levaram inocentes à prisão."

Conforme afirmou o julgador, "por partir de um sistema de tecnologia de informação, cria-se a ideia (absolutamente falsa, diante das referências de pesquisas já mencionadas) de que a tecnologia é 'neutra', por isso se confere maior sensação (igualmente falsa) de segurança para apontar alguém como criminoso ou procurado pela polícia".

"O peso contra quem é apontado como suspeito é avassalador: a tecnologia de informação alia se à dogmática do Direito Administrativo para produzir quase uma 'condenação em princípio' a ser removida pelo acusado. Inverte-se o princípio jurídico da presunção de inocência, direito fundamental inscrito no art. 5º, LVII, da Constituição Federal, fortemente abalado quando uma suspeita inicial de crime pode ancorar-se num sistema de tecnologia que traz consigo as (falsas) impressões de neutralidade, segurança e eficiência. O ônus da prova é transferido para o 'suspeito'."

Além disso, ponderou que o sistema de reconhecimento facial ainda ameaça gravemente o tratamento de dados pessoais, pois informações podem ser captadas, processadas e armazenadas em ampla escala sem qualquer consulta dos cidadãos cujas imagens são capturadas, e nesse particular há violação de relevantes fundamentos da LGPD.