MIGALHAS DE PESO

  1. Home >
  2. De Peso >
  3. Regulamentação de IA e seu destino em 2024: O que esperar e o que recomendar

Regulamentação de IA e seu destino em 2024: O que esperar e o que recomendar

As tecnologias de IA têm potencial para benefícios, mas levantam preocupações éticas sobre preconceitos e impactos na sociedade. No Brasil, há iniciativas em curso para regulamentar seu uso, garantindo supervisão humana e proteção de dados pessoais.

sexta-feira, 15 de dezembro de 2023

Atualizado às 11:08

As tecnologias de IA podem ser de grande utilidade para a humanidade, mas também levantam preocupações éticas fundamentais, por exemplo, em relação aos preconceitos que podem incorporar e exacerbar, resultando potencialmente em discriminação, desigualdade, divisões digitais, exclusão e uma ameaça à diversidade cultural, biológica e divisões sociais ou econômicas.  A necessidade de transparência e compreensão do funcionamento dos algoritmos e dos dados com os quais foram treinados; e seu impacto potencial sobre, incluindo, mas não limitado a dignidade humana, direitos humanos e liberdades fundamentais, igualdade de gênero, democracia, processos sociais, econômicos.

A necessidade de regulamentar seu uso tornou-se uma questão crucial na sociedade moderna. No Brasil, diferentes iniciativas estão sendo implementadas visando estabelecer diretrizes claras para o uso da IA e garantir a supervisão humana, bem como promover a proteção dos dados pessoais.

A Lei do Ceará, por exemplo, exige que a utilização da IA seja supervisionada por humanos, evitando a tomada de decisões totalmente autônomas por parte dos sistemas inteligentes. Essa medida demonstra o reconhecimento da importância do controle humano no uso da IA, evitando possíveis abusos ou erros que poderiam ser cometidos por máquinas sem intervenção humana.1

Da mesma forma, o projeto aprovado em primeiro turno pela Assembleia Legislativa de Alagoas propõe diretrizes para o uso da IA pela administração pública, estabelecendo critérios claros que devem ser seguidos para garantir a ética e a transparência no emprego dessa tecnologia. Essas diretrizes visam evitar a tomada de decisões discriminatórias ou prejudiciais aos interesses dos cidadãos.2

Um importante ponto a ser considerado na regulamentação da IA é a proteção dos dados pessoais. O debate no Senado brasileiro ressaltou a necessidade de cuidado especial com os dados pessoais ao se lidar com a regulamentação da IA. É fundamental garantir a privacidade e o consentimento informado dos indivíduos, bem como criar mecanismos robustos de segurança para prevenir o acesso indevido ou o uso inadequado das informações pessoais.3

Conforme mencionado acima, a movimentação da temática no Brasil é visível, mas ainda está longe do modelo ideal de Governança e colaboração multissetoriais.

Cada setor representa um contexto diferente que tem implicações diferentes, em termos de estrutura da indústria, regulação e formulação de políticas, para sistemas de IA. As diretrizes e regulamentos de governança relacionados à IA, deve se basear em  uma abordagem baseada em riscos que incorpora vários riscos ligados a outros setores.

Muitas leis, normas e diretrizes devem ser observados em especial no Brasil, uma vez que a regulamentação deverá harmonizar com cada diploma, com observação as particularidades da IA, qual seja: Declaração Universal dos Direitos Humanos (1948), o CDC, CLT, CC, LGPD, MCI, ESTATUTO DO DEFICIENTE, LEI DIVERSIDADE,  LEI DE IGUALDADE RACIAL, ESTATUTO DA CRIANÇA E ADOLESCENTE, ISO  27701,  27001, 19011 e 24027 bem como quaisquer outros instrumentos, recomendações e declarações Nacionais e internacionais relevantes,  e que o rápido desenvolvimento das tecnologias de IA desafia sua implementação e governança pública e privada

Diante desse cenário, é possível esperar que em 2024 a regulamentação da IA no Brasil avance ainda mais, com a criação de novas leis e aprimoramento das existentes. É provável que sejam adotadas medidas para garantir a supervisão humana e o respeito aos direitos dos cidadãos, especialmente no que diz respeito a transparência, ética e o uso dos dados pessoais.

Neste panorama, as empresas e instituições que fazem uso da IA devem, no mínimo:

  1. Investir em práticas de segurança e privacidade: Implementar medidas robustas de segurança cibernética e proteção de dados, garantindo o armazenamento adequado e seguro das informações pessoais.
  2. Adotar princípios éticos: Estabelecer diretrizes claras para o uso responsável da IA assegurando a tomada de decisões justas, não discriminatórias e transparentes.
  3. Adotar padrões éticos globalmente aceitos para tecnologias de IA, em pleno respeito ao direito internacional, em particular o direito dos direitos humanos, podem desempenhar um papel fundamental no desenvolvimento de diretrizes do uso de IA.
  4. Promover a transparência e o consentimento: Informar aos usuários sobre o uso da IA, os objetivos, os métodos e as possíveis consequências, garantindo o consentimento informado e a participação ativa dos indivíduos.
  5. Accountability -Responsabilidade e prestação de contas: A transparência e a explicabilidade estão intimamente relacionadas com medidas adequadas de responsabilidade e prestação de contas, bem como com a confiabilidade dos sistemas de IA.  Isso implica determinar se informações significativas e fáceis de entender são disponibilizadas.
  6. Realizar avaliações de impacto: Realizar avaliações de impacto sobre a privacidade e os direitos dos usuários antes de implementar sistemas de IA, de forma a identificar potenciais riscos e adotar as medidas adequadas para mitigá-los.
  7. Adotar o uso de código de ética:  Dever garantir o cumprimento da Constituição Federal no artigos 3º que dispõe:  constituem objetivos fundamentais da República Federativa do Brasil: IV - Promover o bem de todos, sem preconceitos de origem, raça, sexo, cor, idade e quaisquer outras formas de discriminação. O dever de assegurar que os estereótipos de género

Em conclusão, a regulamentação da IA são questões fundamentais e urgentes para agenda de 2024, para garantir o uso ético e responsável dessa tecnologia em benefício da sociedade. A implementação de diretrizes claras e a supervisão humana são essenciais para evitar abusos e proteger os direitos individuais e coletivos.

Esperamos evolução da agenda regulatória  para a  criação de um Órgão Fiscalizatório de acordo com suas condições específicas, para monitorar e avaliar com credibilidade e transparência as políticas, programas e mecanismos relacionados à ética e desenvolvimento da IA, para zelar pela proteção dos sistemas de IA, fiscalizar, fortalecer a análise baseada em pesquisas e evidências e relatórios sobre o uso correto relacionados à IA, coletar e divulgar progressos, inovações, relatórios de pesquisa, publicações científicas, dados e estatísticas sobre políticas de ética em IA, inclusive por meio de iniciativas existentes, para apoiar o compartilhamento de melhores práticas e aprendizado mútuo.

Nesse sentido, é importante acompanhar as iniciativas em andamento e estar atento às recomendações mencionadas.

-------------------------------

1 Lei do Ceará exige inteligência artificial sob supervisão humana. Disponível em: https://tecnoblog.net/noticias/2021/08/17/lei-do-ceara-exige-inteligencia-artificial-sob-supervisao-humana/

2 Aprovado em 1º turno projeto que estabelece diretrizes para o uso da inteligência artificial pela administração pública. Disponível em: https://www.al.al.leg.br/comunicacao/noticias/aprovado-em-1o-turno-projeto-que-estabelece-diretrizes-para-o-uso-da-inteligencia-artificial-pela-administracao-publica

3 Regulação da Inteligência Artificial exige cuidado com dados pessoais, aponta debate. Disponível em:  https://www12.senado.leg.br/noticias/materias/2023/10/19/regulacao-da-inteligencia-artificial-exige-cuidado-com-dados-pessoais-aponta-debate

Flávia Alcassa

Flávia Alcassa

Sócia-fundadora do escritório Alcassa & Pappert Advogados. DPO. Especializada em Direito Digital Corporativo, Bancário,Compliance, Segurança Digital e Proteção de Dados.

Milena Pappert

Milena Pappert

Sócia-fundadora do escritório Alcassa & Pappert Advogados. Certificada em ISFS pela EXIN. Supervisora de conteúdo do comitê de Privacidade e Proteção de Dados na ANADD - Associação Nacional de Advogados do Direito Digital.

AUTORES MIGALHAS

Busque pelo nome ou parte do nome do autor para encontrar publicações no Portal Migalhas.

Busca