Breves reflexões sobre a utilização das ferramentas de inteligência artificial no direito administrativo

A inteligência artificial é conceituado por alguns como a capacidade de reproduzir em uma máquina as capacidades cognitivas do ser humano, sendo classificado como inteligência artificial fraca, mais limitada, sendo as máquinas que armazenam uma grande quantidade de dados para realizarem cálculos e desempenharem atividades específicas e a inteligência artificial forte que se referem a computadores que podem pensar, sendo capazes de realizar tarefas humanas. Quando se fala em inteligência artificial estão presentes os conceitos de “learning machine” e “deep machine”

As máquinas desenvolvem suas atividades por meio de “imput” (entrada de dados) e “output” (saída de dados), os quais originam os algoritmos.

Em razão dos avanços tecnológicos pelo mundo, em outubro de 2018 foram publicadas as diretrizes universais da inteligência artificial¹, já em fevereiro de 2019 a Comissão para a Eficiência na Europa publicou a Carta Ética sobre o uso da Inteligência Artificial em Sistemas Judiciais e seus ambientes no âmbito da UE², em 22 de maio de 2019 o Brasil aderiu ao documento da OCDE que estabeleceu princípios para o uso responsável da inteligência artificial e estabeleceu recomendações para o referido uso³.

Nessa linha, o CNJ publicou a Resolução 332/20⁴ que dispôs sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário, na qual estabeleceu diretrizes para seu desenvolvimento e uso de modo a contribuir para a agilidade e coerência no tramite processual.

Para Gustavo Binenbonjm⁵ o uso das ferramentas de inteligência artificial pela administração pública potencializa sua eficiência e a economicidade, além de privilegiar os princípios da duração razoável do processo, a segurança jurídica, a impessoalidade e a isonomia. Por outro lado, mostra como preocupações a possibilidade da utilização de vieses (vieses algoritmos)⁶ pela máquina em razão do aprendizado ao que foi submetida, a violação do devido processo legal, a opacidade dos métodos utilizados pelo algoritmos ao proferir seus resultados.

Nesse contexto, o autor traz como medidas a serem tomadas quando do uso de ferramentas de inteligência artificial a transparência, a criação de instrumentos regulatórios e ainda a observância das normas trazidas na LGPD.

No âmbito do Podre Judiciário, as ferramentas de inteligência artificial possuem entre outras funções, a classificação e mineração de dados e a eventual elaboração de decisões.

Trazidos essas breves informações gerais, passamos a trazer algumas reflexões dos seus impactos no âmbito do direito administrativo.

O direito administrativo é regido por princípios constitucionais administrativos, entre os quais se destacam o princípio da motivação, da legalidade e da moralidade, de modo que é necessário analisar como o uso das ferramentas de inteligência artificial podem ser utilizadas garantindo a motivação dos atos administrativos não ocorra de forma genérica por meio de padrões pré-estabelecidos.

De igual modo, também há necessidade de um maior aprofundamento no tema quando se trata do princípio da moralidade administrativa em razão do seu elevado grau de subjetividade, isso porque a máquina trabalha por meio de aprendizado.

Quando se fala da prática de atos administrativos pelas ferramentas de inteligência artificial há de se fazer uma diferenciação, tendo em vista que em relação aos atos vinculados não há maiores debates já que seguem critérios pré-definidos nas normas, no entanto, há de se refletir como será realizada a utilização das referidas ferramentas em relação aos atos discricionários em razão da margem de discricionariedade que dispõe o administrador público.

Outros pontos que também merecem uma maior reflexão e aprofundamento se referem à responsabilidade administrativa e penal, já que a responsabilidade civil do Estado não há maiores discussões tendo em vista que a administração é responsável pelos atos dos seu prepostos, entre eles – a máquina.

Nesse contexto, dada o avanço da tecnologia no nosso cotidiano e da sua incorporação na nossas vida, em consequência do direito, no âmbito do direito administrativo faz-se necessária a reflexão sobre o papel das ferramentas da inteligência artificial, especialmente se poderá em um futuro próximo substituir o administrador na função de decidir e ainda qual será o papel do princípio da moralidade nessa nova realidade?

----------------------------------

1 Disponível em: https://thepublicvoice.org/AI-universal-guidelines/

Acácia Regina Soares de Sá
Juíza de Direito Substituta do Tribunal de Justiça do Distrito Federal e Territórios. Especialista em Função Social do Direito pela Universidade do Sul de Santa Catarina - UNISUL. Mestre em Políticas Públicas e Direito pelo Centro Universitário de Brasília - UNICEUB. Coordenadora do Grupo Temático de Direito Público do Centro de Inteligência Artificial do TJDFT. Integrante do Grupo de Pesquisa de Hermenêutica Administrativa do Centro Universitário de Brasília - UNICEUB. Integrante do Grupo de Pesquisa Centros de Inteligência, Precedentes e Demandas Repetitivas da Escola Nacional da Magistratura - ENFAM.