IA e o TCU: Entre a cruz e a espada da regulação

O grande investimento do TCU em IA tem se revelado exitoso e exemplar. O ChatTCU, que é uma ferramenta baseada no ChatGPT, portanto com tecnologia de IA generativa, vem sendo utilizado por centenas de servidores e colaboradores da Corte de Contas como um assistente virtual capaz de auxiliar no desempenho de tarefas diversificadas tanto vinculadas às atividades-meio como às atividades-fim, incluindo pesquisa jurídica, tradução e consultas.

A adaptação da tecnologia é um desafio para que os Tribunais de Contas Estaduais e Municipais, em movimento capitaneado pela Associação dos Membros dos Tribunais de Contas do Brasil - ATRICON, possam utilizá-lo colaborativamente. Projeta-se um ganho exponencial na atuação eficiente e célere de todo o sistema de controle externo brasileiro.

A OCDE - Organização para a Cooperação e o Desenvolvimento Econômico, dentre 59 organizações, de 39 países, reconheceu o TCU como a única instituição em "estágio avançado" no uso de IA generativa pelo desenvolvimento do ChatTCU. A pesquisa completa, elaborada por Gavin Ugale e Cameron Hall, pode ser consultada no site OECDiLibrary, sob o título "Generative AI for anti-corruption and integrity in government: Taking stock of promise, perils and practice".

Com isso, o TCU tem assumido um ao papel vanguardista, potencializando a eficiência das investigações e inspeções em curso e a incorporação de padrões de auditoria ao ChatTCU, o que aprimora os processos tradicionais de análise e fiscalização.

A utilização da IA, seja no campo privado ou público, tem gerado preocupação em todo o mundo, e uma das respostas estatais mais usuais, nem sempre efetiva, tem sido utilizada: a produção legislativa.

Recentemente o Parlamento Europeu aprovou a EU AI Act com o objetivo de garantir que os sistemas de IA utilizados na UE sejam seguros, transparentes, rastreáveis, não discriminatórios e ecológicos, definindo, por exemplo, que a supervisão seja feita por humanos, não por automação. Já há legislação com o mesmo propósito nos Estados Unidos da América e na Inglaterra.

O Brasil também tem avançado na regulamentação da matéria, com destaque para o PL 2.338/23, de autoria do senador Rodrigo Pacheco, presidente do Senado Federal, que se encontra na Comissão Temporária Interna sobre IA no Brasil, sob a relatoria do senador Eduardo Gomes, com previsão de aprovação ainda neste semestre. Pode-se perceber a preocupação na simples leitura do art. 1° da proposição:

Esta lei estabelece normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de sistemas de IA no Brasil, com o objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico. 

Ao mesmo tempo em que são elaboradas normas tentando evitar ou mitigar os riscos do uso e desenvolvimento da IA, surgem estudos e análises que apontam perigos da excessiva/precipitada regulamentação estatal do assunto. E o TCU está no meio deste dilema: entre a cruz e a espada!

Foi essa a motivação do relatório de acompanhamento, consubstanciado pelo Acórdão 616/24 - Plenário, relatado pelo ministro Aroldo Cedraz, cujo objetivo foi "avaliar iniciativas e comunicar riscos à implementação da EBIA - Estratégia Brasileira de Inteligência Artificial, inclusive provenientes de regulação do tema".

A EBIA foi apresentada em 2021 visando servir de referência para a atuação do Estado brasileiro na pesquisa, inovação e desenvolvimento de soluções em IA, sem prescindir de um filtro que garantisse o uso consciente e ético das suas diversas ferramentas tecnológicas.

O TCU tentou encontrar um ponto de equilíbrio entre a proteção dos direitos fundamentais, bens jurídicos públicos e individuais indisponíveis, e o desenvolvimento e a inovação tecnológica, necessidade de qualquer nação contemporânea, e inerentes à IA. Partiu do pressuposto que as propostas legislativas em discussão no Congresso Nacional poderiam "tanto agir a favor da EBIA quanto criar barreiras ao atingimento de seus objetivos".

Além disso, há outras proposituras tramitando no Parlamento. Foram analisados o PL 21/20 e os PL's 4.025/23 e 3.592/23. Cada PL foi submetido à avaliação e ao confronto em relação aos objetivos da EBIA, sendo identificados nove riscos:

• Dependência de importação de tecnologia em decorrência da estagnação do desenvolvimento da IA no Brasil;
• Criação de barreiras para startups e empresas de menor porte;
• Perda de competitividade dos produtos e serviços brasileiros no comércio exterior;
• Monopólio ou oligopólio propiciado por regulação excessiva;
• Dificuldades na retenção de profissionais de IA;
• Definições genéricas impactando áreas desconexas e setores de baixa complexidade ou relevância;
• Impedimento ao desenvolvimento de IA por estabelecimento de direitos autoriais de forma incompatível à nova realidade;
• Limitação da capacidade de inovação nos setores público e privado;
• Barreiras à transformação digital do Estado brasileiro e perda potencial de avanço na disponibilidade de mais e melhores serviços públicos aos cidadãos.

O trabalho desenvolvido pelas equipes técnicas do TCU vislumbrou riscos tanto para o setores privado e público, sendo que em relação ao segundo, mais vinculado à missão da Corte de Contas, pode-se apontar como prováveis impactos negativos: questões de segurança e privacidade de dados relacionadas à dependência de tecnologia estrangeira; não aproveitamento de oportunidade para o desenvolvimento de novos serviços que beneficiem a economia e a sociedade, bem como daqueles que possam diminuir os custos do Estado; e prejuízo à promoção da inclusão social e digital.

O relatório de acompanhamento encerra com um encaminhamento, de natureza analítica e crítica, ao Congresso Nacional quanto aos dois principais PL's em tramitação. O PL 2.338/23, originado no Senado, teria a virtude de ser mais objetivo e concreto, contudo, seu modelo de regulação centralizada poderia provocar dificuldades nas necessárias adaptações, em um contexto de rápida evolução tecnológica. Já o PL 21/20, da Câmara dos Deputados, que se baseia em conteúdo mais principiológico, com maior facilidade de aplicação e atualização às diversas demandas presentes e futuras, especialmente no bojo da EBIA.

Espera-se que, em assunto tão estratégico e técnico, as deliberações dos parlamentares se baseiem em dados e evidências, não em achismos e preconceitos. O TCU tem feito sua parte, o Congresso Nacional precisa fazer a sua.