Considerações iniciais sobre a regulação da UE para o desenvolvimento e uso da IA

Em 13.3.24, foi aprovado pelo Parlamento Europeu o Regulamento de Inteligência Artificial (Ia Act), com o objetivo de estabelecer as principais diretrizes aos desenvolvedores e responsáveis pelos sistemas de IA, bem como algumas salvaguardas para o uso mais seguro da nova tecnologia. Nesse contexto, destacam-se alguns pontos a seguir.

Abrangência e aplicação:

A lei europeia se aplica a todos os sistemas que sejam disponibilizados no mercado da União Europeia e que façam uso da IA.

A regulamentação varia conforme a classificação de risco definida pelo IA Act, Foram definidos critérios a fim de se identificar sistemas de IA de alto risco, principalmente aqueles implementados em setores essenciais do governo (saúde, transporte e segurança pública), devendo tais programas serem monitorados e fiscalizados pelas Autoridades de cada país membro, incluindo também, a possibilidade de autorização judicial para utilização de determinados sistemas, como por exemplo, a utilização de biometria no uso das forças policiais.

Transparência:

Os desenvolvedores devem fornecer informações claras sobre como os sistemas de IA funcionam, apresentando os manuais de uso, quais ferramentas serão utilizadas, o modo de operação dos programas, bem como o seu objetivo.

Os usuários têm o direito de saber quando estão interagindo com um sistema de IA, devendo conter um selo de informação e autenticidade dos documentos, a fim de demonstrar que eventual criação foi realizada com o auxílio do referido sistema.

Proibições e restrições:

Foi classificado como alto risco o uso de IA para manipular o comportamento humano, devendo para tanto, que ferramentas de tal modalidade sejam previamente aprovadas pelos Governos, a fim de se realizar uma avaliação de impacto. Um exemplo é a disseminação de publicidade direcionada, que utiliza notícias e imagens falsas para espalhar desinformações nas mídias sociais, com o intuito de influenciar as pessoas a adotarem determinados comportamentos. Tal medida visa proteger a integridade da informação e a confiança do público em plataformas digitais.

A lei estabelece restrições quanto ao uso de sistemas de IA em três áreas importantes: (i) avaliação de crédito, (i) seleção de emprego e (iii) avaliação de desempenho. Tais medidas visam proteger os direitos individuais, garantindo que a aplicação da Inteligência Artificial seja justa, transparente e ética e sempre com o monitoramento de uma equipe.

Responsabilidade e fiscalização:

As empresas devem realizar avaliações de risco para sistemas de IA. Os sistemas classificados como de alto risco devem se submeter a uma avaliação de impacto sobre direitos fundamentais.

Em 12 meses os Estados-membros da UE deverão designar suas autoridades de fiscalização do mercado.

As violações ao AI Act podem acarretar  multas de até 35 milhões de euros  ou 7% do faturamento anual.

As diretrizes europeias para os sistemas de IA sinalizam um compromisso com a transparência, o desenvolvimento de um mercado único e os direitos individuais.

Diante da abrangência e evolução do IA Act, não restam dúvidas que este Regulamento marca um momento histórico na era da automação inteligente.

Outros países atualmente discutem e devem estabelecer suas próprias regras para garantir que a evolução da lA ocorra de uma maneira ética e segura, sem prejudicar a competição global. Não obstante, a adoção de algumas medidas regulatórias em escala global, certamente contribuiria pra um futuro em que a tecnologia e a sociedade possam apresentar avanços significativos e ao mesmo tempo, zelar pelos direitos fundamentais do ser humano.