AI Act: Um marco na regulação digital do mundo

IA em Movimento

O Parlamento Europeu e Estado-membros chegaram a um acordo histórico sobre a regulação das diferentes aplicações da Inteligência Artificial, baseada na garantia de direitos fundamentais e no risco proporcional dos sistemas de Inteligência Artificial, permitindo acompanhar os avanços das novas tecnologias. Essa primeira Lei mundial a reger a IA terá impacto mundial, uma vez que sua aplicação é extraterritorial, pois abrange fornecedores e usuários localizados fora da UE, que tenham sistemas de IA em uso na União Europeia.

Para os europeus, o acordo em torno da AI Act possibilitou uma IA na qual se pode confiar, depois de uma longa discussão, que começa na Comissão Europeia em abril de 2021, demonstrando a posição de vanguarda da União Europeia na regulação do segmento digital. Anova Lei deve começar a viger em 2025 ou início de 2026.

O comentário do correlator do anteprojeto da UE, o romeno Dragos Tudorache, sintetiza o ineditismo e importância da Lei: "A UE é a primeira no mundo a estabelecer uma regulamentação robusta sobre a IA orientando o seu desenvolvimento e evolução numa direção centrada no ser humano. A Lei da IA ??estabelece regras para modelos de IA grandes e poderosos, garantindo que não apresentam riscos sistêmicos para a União e oferece fortes salvaguardas aos nossos cidadãos e às nossas democracias contra quaisquer abusos da tecnologia por parte das autoridades públicas".¹

Essa pioneira legislação mundial sobre IA, destacada pelo "The Economist" como evidência da aspiração da União Europeia em se tornar um superregulador mundial no campo, tem um impacto notável devido à sua aplicação extraterritorial porque o regramento tecnológico não conhece os limites nacionais e a prova deste chamado "Efeito Bruxelas" é o Regulamento Geral de Proteção de Dados (RGPD) da União Europeia que serviu de parâmetro para leis similares em diferentes países, inclusive no Brasil , com a LGPD (Lei Geral de Proteção de Dados). Para contextualizar o efeito Bruxelas, ele emerge como um fenômeno geopolítico e econômico distinto, onde as políticas e regulamentações formuladas no coração da União Europeia, em Bruxelas, transcendem as fronteiras da própria união, exercendo uma influência profunda e abrangente em escala global. Este efeito se manifesta quando nações e empresas fora da UE, buscando harmonizar suas práticas com padrões reconhecidos internacionalmente ou simplificar suas operações globais, optam por aderir voluntariamente a essas normativas. Assim, as decisões tomadas em Bruxelas moldam indiretamente ambientes regulatórios e comerciais muito além de seus membros, estabelecendo um padrão de fato que se estende por diversos continentes e contextos jurídicos, refletindo o poder normativo e a influência inesperada da União Europeia no cenário mundial.

A Lei da IA (AI Act) tem um foco muito forte sobre os riscos da tecnologia, principalmente voltados à segurança nacional, perda de empregos e desinformação on-line. Neste último tópico está o uso das deepfakes, amplamente empregadas em campanhas presidenciais. Ou seja, supostamente induz-se o eleitor a erro com vídeos e áudios fraudulentos, elaborados com tecnologia de IA. No Brasil, que terá eleições municipais em 2024, já tramita o PL 5.241/2023, incorporado ao PL 1002/2023, que tipifica o crime de conteúdo audiovisual com uso de deepfake.

A legislação europeia buscou ser sintética em conceituar IA para não dar margem a dúvidas, seguindo o entendimento da Organização de Cooperação e Desenvolvimento Econômico (OCDE) Trata-se de um " sistema de inteligência artificial (sistema de IA) significa software que é desenvolvido com uma ou mais das técnicas e abordagens no Anexo I e pode, para um determinado conjunto de objetivos definidos pelo homem, gerar resultados tais como conteúdo, instruções, recomendações ou decisões que influenciam os ambientes com o quais interagem".

Os sistemas de IA são diferenciados em quatro categorias de risco, desde 'inaceitável' até 'baixo', abrangendo desde biometria e IA no setor de RH até chatbots e videogames. Essa classificação orienta a necessidade de conformidade, com exigências mais rigorosas para categorias de risco mais elevadas. Vale ressaltar que quanto mais alta for a classificação de risco, mais custoso será para as empresas estarem em conformidade com a Lei.

A Lei prevê exceções para uso de sistemas de IA classificados como proibidos, quando for utilizado para fins militares e de defesa, para fins de investigação e inovação e por pessoas físicas por motivos não profissionais. Será permitida a identificação biométrica em público para fins legais para buscas de suspeitos procurados pelas autoridades de segurança. O polêmico reconhecimento facial em tempo real tem normas rígidas, podem ser empregados em casos de busca de vítimas de sequestro, tráfico ou exploração sexual, ameaça terrorista, localização ou identificação de suspeito de crimes (terrorismo, tráfico, explicação sexual, rapto, organização criminosa, crime ambiental etc.).

À medida que o Parlamento Europeu avançava na formulação da AI Act, emergiram novos desenvolvimentos no campo da Inteligência Artificial, notavelmente os modelos de IA generativa. Essa evolução tecnológica, que surgiu durante os debates legislativos, destacou a necessidade de abordar questões adicionais e complexas. A IA generativa, representando um avanço significativo desde a concepção inicial da AI Act, trouxe à tona desafios e oportunidades únicos, necessitando de consideração especial sob o novo marco regulatório.

Para a UE, os sistemas de IA Generativa, que incluem grandes modelos de linguagem (LLMs), capazes de produzir conteúdos originais cobrindo áreas importantes, como educação, saúde, direito, comunicação, etc.com amplo grau de popularidade, acabaram ganhando uma categoria de risco separada, que se submetem a uma série de obrigações de governança de riscos, dados, desempenho, previsibilidade, interpretabilidade, segurança, dentre outras. Também precisam fornecer detalhamento público sobre o uso de dados utilizados para treinamento da máquina, protegidos por direitos autorais, seguir obrigações de transparência, fornecendo nome da pessoa física ou jurídica responsável, para evitar tentativas de manipulação.²

De acordo com a Lei da UE, os fornecedores de IA de alto risco devem se preocupar com a gestão de riscos de seus sistemas, desde a concepção e implantar medidas de mitigação. Os dados pessoais sensíveis (etnia, religião, posição política, dados de saúde etc.) somente podem ser utilizados se forem extremamente necessários, com monitoramento. A supervisão humana também está prevista, assim como a informação à autoridade sobre incidentes e aos usuários sobre os dados do sistema.

As multas do AI Act podem chegar até 35 milhões de euros ou 7% do volume de negócios global das empresas no caso de IA proibidas; a 15 milhões de euros ou 3% para violações da lei e 7,5 milhões de euros ou 1,5% pelo fornecimento de informações incorretas. As empresas pequenas, médias e startups ficarão sujeitas a multas administrativas. O ponto em questão é saber quem irá regular e como vai fiscalizar o desenvolvimento de milhares de aplicações que avançam com novas atribuições em questão de horas.

Em suma, a Lei da IA (AI Act) da União Europeia representa um marco significativo na regulação global da Inteligência Artificial. Ao definir padrões rigorosos e abrangentes, a UE não apenas assegura a segurança e a ética no uso da IA dentro de suas fronteiras, mas também exerce uma influência substancial além delas. O impacto dessa legislação, semelhante ao observado com o RGPD, demonstra o crescente papel da UE como um regulador global de tecnologias emergentes. A AI Act não somente aborda os riscos associados à IA, mas também estabelece um equilíbrio entre inovação tecnológica e proteção dos direitos humanos e da democracia. À medida que nos aproximamos de sua implementação prevista entre 2025 e 2026, o mundo observa atentamente, antecipando as ramificações dessa legislação pioneira para o futuro da IA globalmente.

Linha do tempo

Dezembro de 2023 Acordo político alcançado pelos co-legisladores

Junho de 2023 Posição negocial do Parlamento Europeu sobre a Lei da IA

Dezembro de 2022 Abordagem geral da Lei do Conselho sobre IA

Setembro de 2022 Proposta de diretiva sobre responsabilidade relativa à IA

Junho de 2022 Lançamento do primeiro sandbox regulatório de IA na Espanha: Fazendo avançar o Regulamento de IA

Dezembro de 2021 Comité das Regiões, Parecer sobre a Lei relativa à IA

Banco Central Europeu, Parecer sobre a Lei AI (.PDF)

Novembro de 2021 Conselho da UE: Texto de compromisso da Presidência da SI sobre a Lei da IA ??(.PDF)

Conferência de Alto Nível sobre IA: Da Ambição à Ação (3ª Assembleia da Aliança Europeia de IA)

Comité Económico e Social Europeu, Parecer sobre a Lei da IA

Junho de 2021 Consulta pública sobre Responsabilidade Civil - adaptando as regras de responsabilidade à era digital e à inteligência artificial