Parlamento Europeu adota posição para regulamentar a Inteligência Artificial e promover sua confiabilidade e proteção dos direitos fundamentais

A Inteligência Artificial (IA) é uma tecnologia em constante evolução que traz consigo inúmeras possibilidades e desafios. No âmbito europeu, o Parlamento Europeu deu um passo importante ao adotar sua posição de negociação sobre o Ato de Inteligência Artificial (AI Act). Essas medidas visam promover a adoção de IA centrada no ser humano, confiável e que proteja a saúde, segurança, direitos fundamentais e a democracia contra possíveis efeitos prejudiciais. Neste artigo, exploraremos as principais diretrizes e proibições propostas, bem como as obrigações impostas aos provedores de IA. Além disso, discutiremos os avanços e as próximas etapas no processo de regulamentação da IA no Parlamento Europeu.

O Parlamento Europeu adotou, nesta quarta-feira (14/06), sua posição de negociação em relação ao Ato de Inteligência Artificial (IA) com 499 votos a favor, 28 contra e 93 abstenções. Essa etapa ocorre antes das discussões com os Estados membros da União Europeia sobre a forma final da lei. O objetivo das regras é promover a adoção de IA centrada no ser humano e confiável, além de proteger a saúde, segurança, direitos fundamentais e democracia contra os efeitos prejudiciais da tecnologia.

As regras estabelecem uma abordagem baseada em riscos e impõem obrigações aos provedores e usuários de sistemas de IA, dependendo do nível de risco que a IA pode apresentar. Consequentemente, serão proibidos sistemas de IA que apresentem um nível inaceitável de risco para a segurança das pessoas, como aqueles utilizados para pontuação social, ou seja, classificar pessoas com base em seu comportamento social ou características pessoais. Além disso, os parlamentares ampliaram a lista de proibições para incluir usos invasivos e discriminatórios da IA, como sistemas de identificação biométrica em tempo real e pós-tempo em espaços de acesso público, sistemas de categorização biométrica baseados em características sensíveis, sistemas de policiamento preditivo e sistemas de reconhecimento de emoções.

Os aplicativos de alto risco foram classificados de forma ampla, incluindo agora sistemas de IA que possam causar danos significativos à saúde, segurança, direitos fundamentais ou meio ambiente das pessoas. Além disso, a lista de alto risco foi ampliada para incluir sistemas de IA usados para influenciar eleitores e o resultado de eleições, bem como sistemas de recomendação usados por plataformas de mídia social com mais de 45 milhões de usuários.

No que diz respeito aos sistemas de IA de propósito geral, os provedores de modelos de base - um novo desenvolvimento em rápido avanço no campo da IA - serão obrigados a avaliar e mitigar possíveis riscos para a saúde, segurança, direitos fundamentais, meio ambiente, democracia e Estado de direito antes de lançarem seus modelos no mercado da União Europeia. Os sistemas de IA gerativos baseados nesses modelos deverão cumprir requisitos de transparência, revelando que o conteúdo foi gerado por IA, ajudando a distinguir imagens deepfake das reais, além de garantir salvaguardas contra a geração de conteúdo ilegal. Também será exigida a disponibilização de resumos detalhados dos dados protegidos por direitos autorais usados para o treinamento desses sistemas.

Para impulsionar a inovação em IA e apoiar as pequenas e médias empresas (PMEs), os parlamentares incluíram isenções para atividades de pesquisa e componentes de IA fornecidos por meio de licenças de código aberto. A nova lei também promove a criação de "sandbox" regulatórios, que são ambientes reais estabelecidos pelas autoridades públicas para testar a IA antes de sua implantação.

Por fim, os parlamentares desejam fortalecer o direito dos cidadãos de apresentar reclamações sobre sistemas de IA e receber explicações sobre decisões baseadas em sistemas de IA de alto risco que afetem significativamente seus direitos fundamentais. Além disso, foi reformulado o papel do Escritório de IA da União Europeia, que será responsável por monitorar a implementação das regras de IA.

As negociações com o Conselho sobre a forma final da lei começarão ainda hoje. Com essa legislação, os parlamentares respondem às propostas dos cidadãos da Conferência sobre o Futuro da Europa, que visam garantir a supervisão humana dos processos relacionados à IA, fazer uso pleno do potencial da IA confiável e superar barreiras linguísticas por meio do uso de IA e tecnologias de tradução.

A adoção da posição de negociação pelo Parlamento Europeu em relação ao Ato de Inteligência Artificial é um marco significativo na regulamentação dessa tecnologia em prol do bem-estar humano e da proteção dos direitos fundamentais. As diretrizes estabelecidas visam garantir uma IA centrada no ser humano, promovendo transparência, segurança e privacidade. Ao proibir práticas de IA de alto risco e intrusivas, como a categorização biométrica discriminatória e sistemas de reconhecimento de emoções, busca-se proteger os cidadãos contra abusos e violações de direitos.

Além disso, a inclusão de sistemas de IA influenciando eleições e recomendadores em plataformas de mídia social na lista de alto risco reflete a preocupação com a integridade democrática e a necessidade de transparência nessas áreas sensíveis. A exigência de avaliação de riscos e a disponibilização de informações sobre dados utilizados em modelos de IA promovem a responsabilidade e a conscientização sobre possíveis impactos negativos.

A promoção da inovação por meio de isenções para pesquisa e componentes de IA em código aberto, juntamente com a criação de sandboxes regulatórios, demonstra o compromisso de impulsionar o desenvolvimento tecnológico de forma segura e ética.

No entanto, o caminho para uma regulamentação abrangente da IA ainda requer discussões e negociações adicionais com os Estados membros da União Europeia. É essencial que essas negociações sejam conduzidas de maneira cuidadosa e equilibrada, levando em consideração a diversidade de interesses e perspectivas.

Em suma, a posição adotada pelo Parlamento Europeu sobre o Ato de Inteligência Artificial representa um passo importante para a construção de um ambiente de IA confiável e respeitoso aos direitos humanos. É um esforço para enfrentar os desafios da IA, garantindo seu potencial benéfico enquanto protege os indivíduos e a sociedade como um todo. A busca pelo equilíbrio entre inovação, responsabilidade e proteção dos direitos fundamentais continuará a moldar o futuro da IA na Europa e além.