Responsabilidade civil do Estado e falhas algorítmicas no autosserviço

Em recente obra¹, tive a oportunidade de refletir sobre os contornos peculiares que a responsabilidade civil do Estado passa a ostentar na sociedade da informação. Percebe-se a necessidade de revisitação da teoria do risco administrativo para que se possa tutelar situações geradoras de danos que desbordam dos exemplos clássicos, restritos ao mundo analógico.

Nas origens do Estado contratualista, a frase "Public office is a public trust" (O cargo público pressupõe a confiança pública) indicava a imprescindibilidade da fidúcia depositada pelos cidadãos na atuação estatal. Na contemporaneidade, com a tendência irrefreável à adoção do autosserviço², o que se nota é o efeito contrário: uma crescente dificuldade de se confiar em algoritmos³, especialmente naqueles que são como "caixas-pretas" (black boxes), em comparação com a confiança depositada na atuação dos agentes públicos para fins de responsabilização do Estado.

Logo, questiona-se: pode o Estado ser responsabilizado pelos “ilícitos algorítmicos” derivados de falhas de sistemas que porventura utilize? Haveria o que se pode chamar de “algorithmic misconduct”⁴, para referenciar Teubner e Beckers? E mais: no apogeu da Internet das Coisas, também se pode dizer que há risco de que a própria rede se torne uma Internet de Ilícitos (Internet of Torts, como denota o trocadilho de Rebecca Crootof)⁵?

Ora, o avanço tecnológico trouxe consigo uma série de desafios legais e éticos, e um tema cada vez mais relevante é a responsabilidade do Estado diante dos chamados “ilícitos algorítmicos”, aos quais o risco é inerente⁶.

O autosserviço é um dos pilares do Governo Digital, que busca oferecer serviços públicos mais ágeis, eficientes e acessíveis à população, reduzindo a burocracia e aumentando a transparência e a participação social. O objetivo é que os cidadãos possam realizar suas demandas com a administração pública de forma autônoma, sem precisar de intermediários humanos, o que reduz custos e tempo para a prestação dos serviços públicos. Na prática, o autosserviço pode incluir o acesso a informações, solicitação de serviços, envio de documentos e outras demandas por meio de plataformas digitais disponibilizadas pelos órgãos públicos⁷.

Com a Lei do Governo Digital (14.129/2021), os órgãos públicos passaram a disponibilizar serviços digitais que sejam desejavelmente de fácil utilização e acessíveis a todos os cidadãos⁸, embora ainda exista acentuada assimetria em relação a isso. Na lei, o autosserviço é visto como uma das principais medidas para a implementação do Governo Digital no Brasil – tanto é que sua adoção é “preferencial” (art. 14, parágrafo único) desde 2021 –, e o que se busca é tornar a administração pública mais moderna e eficiente, facilitando a vida dos cidadãos e das empresas que precisam lidar com os serviços públicos⁹.

Porém, a adoção do autosserviço no atendimento ao cidadão pode trazer alguns desafios e riscos que precisam ser levados em consideração pelos gestores públicos. Dentre os principais desafios, podemos destacar a exclusão digital de parte da população, a falta de capacitação e treinamento dos usuários para o uso de tecnologias, a falta de confiança nos serviços públicos on-line e o risco de incidentes de segurança com dados pessoais.

Além disso, há uma relação intrínseca entre o autosserviço e os sistemas de inteligência artificial (IA) no contexto do Governo Digital¹⁰ e não se nega que tais sistemas possam ser usados para melhorar a eficiência e a qualidade dos serviços públicos oferecidos por meio de plataformas de autosserviço¹¹. Por exemplo, chatbots ou assistentes virtuais podem ser implementados para responder a perguntas frequentes e auxiliar os usuários na realização de serviços de forma mais rápida e eficiente. Algoritmos e sistemas de IA também podem ser usados para processar grandes volumes de dados e fornecer inferências úteis aos gestores públicos, permitindo a melhoria contínua dos serviços oferecidos.

Além disso, sistemas de IA podem ser usados para personalizar a experiência do usuário em plataformas de autosserviço, oferecendo sugestões e recomendações com base nas preferências e no histórico de uso do usuário. Isso pode melhorar significativamente a satisfação geral e aumentar a adoção de serviços digitais pelo público em geral¹², pois, por meio do autosserviço, torna-se possível acessar serviços que antes eram burocráticos, sem a necessidade de deslocamentos ou atendimentos presenciais, com longas filas e logística dificultosa, o que contribui para diminuir a perda de tempo e facilitar a resolução de demandas mais triviais.

Tudo isso permite que o cidadão tenha maior controle sobre seus interesses na interação com o Estado e evite a espera em filas e a burocracia tradicional¹³. Isso não apenas economiza tempo, mas também promove maior eficiência na prestação de serviços públicos, proporcionando uma experiência mais satisfatória ao administrado e uma administração mais moderna e adaptada aos desafios do século XXI. A empolgação, contudo, parece ofuscar situações nas quais o Estado parece não ser responsabilizado in concreto pela simples invocação de excludentes causais em disputas regidas pela teoria do risco administrativo, que subjaz à norma definida no artigo 37, §6º, da Constituição da República.

Os exemplos são abundantes e variam dos “megavazamentos” de dados – como o que ocorreu no início de 2021 e envolveu os números de CPF de todos os cidadãos do país¹⁴ – a situações mal explicadas como o episódio de indisponibilidade do Sistema ConecteSUS¹⁵, no auge da pandemia de Covid-19, e os diversos ataques de DDoS e ramsonware a sítios eletrônicos de tribunais brasileiros.¹⁶ Em todos esses casos, a invocação do fortuito externo – viável pela regência formal da responsabilização a partir do risco administrativo – se torna uma recorrente matéria de defesa nas contestações da advocacia pública, servindo como um pretenso “salvo conduto” para justificar a impossibilidade da condenação. Claramente, um cenário insustentável e injusto.

Segundo Felipe Braga Netto, “ao analisar, teórica e criticamente, a responsabilidade civil do Estado, percebemos que há avanços realizados, e pontos por avançar. Certamente, hoje, o Estado responde civilmente por atos e omissões que durante boa parte do século passado, no Brasil, ele não respondia. Essas mudanças, sabemos, são lentas, e culturalmente complexas. (...) Avançamos lentamente. Essa parece ser a nota das mudanças sociais, e isso se mostra particularmente verdadeiro no direito, que – não por acaso – recebeu a pecha de ser conservador, de não apreciar mudanças que não contam com o apoio sereno dos (muitos) anos”.¹⁷

A pergunta que se coloca é se o Estado pode ser responsabilizado por eventuais danos causados por esses sistemas algorítmicos falhos de autosserviço. De fato, o conceito de “algorithmic misconduct” de Teubner e Becker parece denotar alguma necessidade de averiguação fática de conduta dotada de ilicitude, pelo que tenho preferido me referir ao tema, na língua inglesa, pela nomenclatura “algorithmic wrongdoing”¹⁸, referindo-me mais particularmente à possibilidade de o Estado ser responsabilizado por danos decorrentes de algoritmos que falhem ao cumprir seus propósitos previamente definidos na escala de programação, ou que produzam resultados danosos injustificados.

No contexto da crescente "Internet das Coisas" (IoT), a preocupação se intensifica, uma vez que a interconexão de dispositivos e a coleta massiva de dados ampliam a exposição a riscos. Com a possibilidade de sistemas automatizados controlarem carros, cidades inteligentes e outras infraestruturas críticas, a “Internet of Torts” passa a ser uma expressão de alerta¹⁹. Isso porque, se falhas algorítmicas ocorrerem em larga escala, podem resultar em prejuízos significativos para a sociedade, indo além dos danos individuais²⁰.

A responsabilização do Estado nos casos de “ilícitos algorítmicos” envolve aspectos complexos, como a definição de quem seria responsável por tais falhas, em última instância: os desenvolvedores dos algoritmos, os gestores públicos que os utilizam, ambos...? Além disso, é necessário estabelecer critérios claros para identificar o agir culposo que viabilize eventual discussão de regresso, bem como compreender a dificuldade de responsabilizar uma figura como o Estado por danos causados por sistemas automatizados incognoscíveis²¹.

Por outro lado, argumenta-se que a responsabilização é imprescindível para garantir a accountability do Estado e a proteção dos direitos individuais e coletivos²². Nesse sentido, é importante buscar a transparência e a auditoria dos algoritmos, garantindo que as decisões automatizadas sejam justas, éticas, imparciais e sempre resguardadas pelas melhores práticas de segurança da informação. Nesse sentido, para além da Política Nacional de Segurança da Informação (decreto 9.637/2018), a definição de normas específicas para o uso de algoritmos pelo Estado pode ser uma solução para minimizar os riscos e aumentar a confiança na utilização dessas tecnologias em regimes de autosserviço.

Ademais, é fundamental promover a conscientização sobre os possíveis reflexos negativos dos “ilícitos algorítmicos” e a necessidade de responsabilização nos casos de falhas. O desafio, como se vê, é homérico e não se tem uma solução clara... O que se reconhece é que encontrar o ponto de equilíbrio entre a promoção da inovação tecnológica e a proteção dos direitos fundamentais é um desafio que requer a atuação proativa.

Somente a partir da maior colaboração entre a comunidade jurídica, especialistas em tecnologia e governos é que se poderá encontrar soluções adequadas para lidar com esse desafio crescente, pois a complexidade do tema exige uma abordagem criteriosa para que se estabeleçam as bases da boa governança voltada às tecnologias automatizadas.

__________