Aprovação da lei da inteligência artificial na União Europeia e os desafios no Brasil

Na última semana, o Parlamento Europeu aprovou a lei da Inteligência Artificial (IA), marcando um avanço significativo na regulamentação dessa tecnologia em rápida evolução. A legislação visa assegurar a proteção dos direitos fundamentais, da democracia, do Estado de direito e da sustentabilidade ambiental frente aos riscos apresentados pela IA de alto nível, enquanto impulsiona a inovação e consolida a liderança da Europa na indústria tecnológica. Enquanto no Brasil, acompanhamos as iniciativas em andamento.

Restrições e proibições

As disposições da lei proíbem explicitamente certas aplicações de inteligência artificial que violam os direitos dos cidadãos. Entre essas proibições, destacam-se sistemas de categorização biométrica baseados em características sensíveis e a coleta indiscriminada de imagens faciais da internet ou de gravações de câmeras de vigilância para a criação de bancos de dados de reconhecimento facial. Ademais, práticas como o reconhecimento de emoções no ambiente de trabalho e em escolas, sistemas de pontuação cidadã, policiamento preditivo e IA que manipula o comportamento humano ou explora vulnerabilidades serão vetadas.

Limitações na aplicação da lei

O texto normativo estabelece restrições específicas para o uso de sistemas de identificação biométrica pelas forças de segurança, permitindo-os apenas em circunstâncias estritamente definidas e com salvaguardas rigorosas. A utilização de tais sistemas em tempo real somente será admitida mediante autorização judicial ou administrativa prévia e em situações claramente definidas, como na busca direcionada de pessoas desaparecidas ou na prevenção de ataques terroristas.

Obrigações para sistemas de alto risco

Para sistemas de IA considerados de alto risco, tais como os utilizados em infraestruturas críticas, educação, serviços públicos e aplicação da lei, são estabelecidas obrigações claras. Essas incluem a avaliação e mitigação de riscos, transparência, precisão, supervisão humana e a garantia do direito dos cidadãos de apresentarem queixas sobre decisões baseadas em IA que afetem seus direitos.

Transparência e inovação

A legislação também enfatiza a transparência nos sistemas de IA, exigindo que modelos e conteúdos utilizados em seu treinamento sejam divulgados de forma detalhada. Além disso, a lei promove a inovação ao disponibilizar espaços de teste controlados para pequenas e médias empresas e startups, permitindo-lhes desenvolver e aprimorar tecnologias de IA antes de sua comercialização.

Contexto da IA no Brasil

Nos últimos anos, o Brasil tem testemunhado um crescimento significativo no uso e desenvolvimento de tecnologias de IA. Apesar do crescimento no uso da IA, o Brasil enfrenta desafios significativos em termos de regulamentação e legislação.

A recente aprovação da lei da IA pela UE - União Europeia traz importantes reflexões para o Brasil no que tange ao equilíbrio entre a proteção dos direitos fundamentais e o estímulo à inovação no contexto da IA. Acompanhar atentamente a evolução legislativa relacionada à IA é de suma importância para o Brasil, sobretudo considerando as iniciativas em andamento no país, como o projeto de lei 2.338/23, que trata do emprego de IA. Este projeto legislativo tem como objetivo regulamentar aspectos pertinentes ao uso de tecnologias de IA em território nacional.

As tecnologias de IA podem ser de grande utilidade para a humanidade, mas também levantam preocupações éticas fundamentais, por exemplo, em relação aos preconceitos que podem incorporar e exacerbar, resultando potencialmente em discriminação, desigualdade, divisões digitais, exclusão e uma ameaça à diversidade cultural, biológica e divisões sociais ou econômica.

É imperativo que o Brasil acompanhe de perto essa evolução legislativa e não negligencie um tema tão relevante para os negócios e para os cidadãos. A regulamentação adequada da IA pode ser um impulso para a economia, aprimorando tanto os serviços públicos quanto os privados. Portanto, é essencial que o Brasil adote uma postura proativa na garantia do uso transparente, ético e responsável da inteligência artificial em nossa sociedade.

---------------------

Aprovado em 1º turno projeto que estabelece diretrizes para o uso da inteligência artificial pela administração pública. Disponível em: https://www.al.al.leg.br/comunicacao/noticias/aprovado-em-1o-turno-projeto-que-estabelece-diretrizes-para-o-uso-da-inteligencia-artificial-pela-administracao-publica

Senado Federal: PL 2338/2023 - Senado Federal - https://www25.senado.leg.br/web/atividade/materias/-/materia/157233

Parlamento UE: La Eurocámara aprueba una ley histórica para regular la inteligencia artificial | Noticias | Parlamento Europeo (europa.eu)