Neste artigo farei uma breve discussão, sobre o que é a inteligência artificial (IA) e como ela está presente em nossas vidas, quais são os principais problemas éticos e sociais da IA, qual a importância da regulação da IA no Brasil e como está o projeto de Lei sobre a IA no Senado Federal.
A virada do milênio, chegou com grandes avanços nas técnicas de automação e de inteligência artificial, o gerenciamento centrado em dados bem como a criação de soluções tecnológicas que estão revolucionando todos os setores da economia. Entre os principais temas, estão o uso de técnicas de IA para a identificação de padrões e perfis de comportamento em milhares de dados, além da criação de técnicas para a modelagem de algoritmos capazes de indicar caminhos e originar decisões automatizadas.
O conceito de inteligência artificial (IA) aplica-se a sistemas que apresentam um comportamento inteligente, analisando o seu ambiente e tomando medidas — com um determinado nível de autonomia — para atingir objetivos específicos (COMISSÃO EUROPEIA, 2018). Os sistemas baseados em inteligência artificial podem ser puramente confinados ao software, atuando no mundo virtual (por exemplo, assistentes de voz, programas de análise de imagens, motores de busca, sistemas de reconhecimento facial e de discurso), ou podem ser integrados em dispositivos físicos (por exemplo, robôs avançados, automóveis autónomos, veículos aéreos não tripulados ou aplicações da Internet das coisas).
Alexandre Zavaglia Coelho (2019), entende que “as técnicas de inteligência artificial, criadas nos anos 1950, encontraram o ambiente ideal para concretizar sua potencialidade, tanto para a organização dos dados não estruturados (voz, imagens e textos) como para correlações e sugestões voltadas para a criação de cenários de risco e para a tomada de decisão”. Para a Professora da PUC-SP, Dora Kaufman “a IA faz parte de nossa vida cotidiana. Acessamos sistemas inteligentes para programar o itinerário com Waze, pesquisar no Google e receber da Netflix e do Spotify recomendações de filmes e músicas [...] A Siri, da Apple, e a Alexa, da Amazon, são assistentes pessoais digitais inteligentes que nos ajudam a localizar informações úteis com acesso por meio de voz” (KAUFMAN, 2022). Sem sombras de dúvidas, os sistemas baseados em IA têm-se popularizado cada vez mais. Aos poucos, tal tecnologia deixa de ser privilégio de alguns para estar presente no cotidiano de pessoas, de empresas e do poder público.
Quando tratamos do aprendizado profundo (deep learning), é preciso compreender que toda essa tecnologia é apenas um novo ferramental à disposição dos humanos e que não existem robôs que pensam e fazem tudo sozinhos, conforme prescrevem as manchetes sensacionalistas. São os seres humanos que devem supervisionar e definir como e se vamos utilizar cada uma dessas possibilidades, principalmente, os riscos envolvidos e os cuidados necessários em cada aplicação.
Mas nem tudo são flores, segundo Dora Kaufman (2022, pág. 108) “[...] os cientistas de tecnologia, seja na academia ou no mercado não atentam para os impactos éticos e sociais dos sistemas que desenvolvem [...]” e é neste campo que a IA vem gerando uma série de preocupações mundo a fora. Muito além do armazenamento dos dados e da segurança da informação, a IA, que era utilizada para decisões de baixo risco (propagandas, filmes, músicas e demais aspectos), passou a integrar estratégias mercadológicas e soluções que agora começam auxiliar a definição da contratação de novos funcionários de uma empresa pelo setor de RH, sobre quem será autorizado a entrar em um país, quem se salvará em um acidente com um veículo autônomo, o escolhido para a próxima vaga do setor de emergência dos Hospitais, entre outras situações de alto risco.
Essa é uma problemática sensível, tanto pelos aspectos técnicos de programação e construção dessas soluções, como pelas discussões legais e éticas. Com isso, vêm crescendo as demandas sociais e dos órgãos reguladores para a transparência, auditabilidade, explicação e revisão de decisões automatizadas, diante de alguns modelos considerados opacos ou black box, pela característica de não permitir o entendimento completo sobre como se chegou à determinada decisão ou quais os insumos, variáveis ou pontos que foram determinantes para compreender as decisões automatizadas.
No Brasil, temos a publicação da nossa Estratégia Brasileira de Inteligência Artificial – EBIA (BRASIL, 2021), na qual também consta que é “desejável que decisões tomadas por sistemas automatizados sejam passíveis de explicação e interpretação”, e a LGPD – Lei Geral de Proteção de Dados (BRASIL, 2018), que prevê no seu art. 20 esses direitos: “O titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade”.
Patrícia Peck Pinheiro (2022, pág. 27) nos lembra que “é importante que os governos tenham procedimentos de transparência e accountability no acesso a informações de algoritmos usados para as aplicações com IA. O uso ético da IA é uma garantia de inovação segura e deve ser usada de forma a beneficiar o cidadão”. Ao pensarmos na regulação, devemos lembrar do conceito de privacy by design, no sentido de que é preciso agir preventivamente, desde o nascimento de cada projeto, antecipando os cuidados com consequências indesejáveis, supervisionando o banco de dados que vai subsidiar o treinamento e a criação dos modelos, compreender o balanceamento e a existência de vieses e seus reflexos nos titulares dos dados. Nesse aspecto, prepara-se a explicação de cada etapa da solução até a decisão, desde os primeiros passos do projeto do sistema ou solução.
Em 17 de fevereiro de 2022, o Senado Federal, instituiu Comissão Temporária Interna para subsidiar a elaboração de minuta de substitutivo para os Projetos de Lei 5.051/19; PL 21/20 e PL 872/21, com objetivo de estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil. Dora Kaufman (2022) em sua coluna IAgora da Época Negócios, informa que em 6 de dezembro último, a Comissão de Juristas do Senado (CJSUBIA), presidida pelo Ministro Ricardo Villas Bôas Cueva e relatoria da jurista Laura Schertel Mendes, finalizou o Relatório. Segundo Dora “O Relatório da Comissão de Juristas do Senado, certamente, é um ponto de partida infinitamente superior à PL 21/20”. Para a professora é imprescindível, contudo, trazer para o debate as agências setoriais, a academia, particularmente os recém-criados centros de pesquisa em IA, as empresas de tecnologia, as startups de IA, os grandes centros de saúde, a Justiça e seus laboratórios de inovação, os cientistas sociais, os advogados representados pela OAB, o setor privado, as lideranças do novo governo federal.
Conforme levantamento de Fernando Alves e Katrine Boaventura, o documento tem como fundamentos: a centralidade da pessoa humana; o respeito aos direitos humanos e aos valores democráticos; o livre desenvolvimento da personalidade; a proteção ao meio ambiente e o desenvolvimento sustentável; a igualdade, a não discriminação, a pluralidade e o respeito aos direitos trabalhistas; o desenvolvimento tecnológico e a inovação; a livre iniciativa, a livre concorrência e a defesa do consumidor; a privacidade, a proteção de dados e a autodeterminação informativa; a promoção da pesquisa e do desenvolvimento com a finalidade de estimular a inovação nos setores produtivos e no poder público; o acesso à informação e à educação, bem como a conscientização sobre os sistemas de inteligência artificial e suas aplicações (ALVES; BOAVENTURA, 2023).
O projeto segue agora para a tramitação no Senado Federal, vale lembrar que a proposta de regulação da IA no Brasil foi influenciada por legislações internacionais. A maioria dos países da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) elaboraram mecanismos de controle à IA há cerca de três anos, com variações quanto ao papel do Estado. A União Europeia busca chegar a um consenso sobre a regulamentação da IA em março deste ano.
----------
ALVES, Fernando; BOAVENTURA, Katrine. Inteligência artificial deve ganhar marco regulatório em 2023. Brasil 61. 16 jan. 2023. Disponível em: https://brasil61.com/n/inteligencia-artificial-deve-ganhar-marco-regulatorio-em-2023-pind233767. Acesso em: 12 fev. 2023.
BRASIL. Estratégia Brasileira de Inteligência Artificial. Disponível em: https://www.gov.br/pt-br/noticias/educacao-e-pesquisa/2021/04/publicada-estrategia- brasileira-de-inteligencia-artificial. Acesso em: 12 fev. 2023.
______. Lei Federal 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/ lei/l13709.htm. Acesso em: 12 fev. 2023.
COELHO, Alexandre Zavaglia. A ciência de dados e a inteligência artificial no Direito em 2018. Instituto de Registro Imobiliário do Brasil. 2 jan. 2019. Disponível em: https://www.irib.org.br/noticias/detalhes/artigo-a-ciencia-de-dados-e-a-inteligencia-artificial-no-direito-em-2018-parte-i-undefined-por-alexandre-zavaglia-coelho. Acesso em: 12 fev. 2023.
COMISSÃO EUROPEIA, DIREÇÃO-GERAL DAS REDES DE COMUNICAÇÃO, CONTEÚDOS E TECNOLOGIAS. EUR-Lex. 2018. Disponível em: https://eur-lex.europa.eu/legal-content/PT/ALL/?uri=CELEX:52018DC0237. Acesso em: 12 fev. 2023.
KAUFMAN, Dora. Desmistificando a inteligência artificial. Belo Horizonte. Autêntica. 2022.
______. Precisamos debater o Relatório da Comissão do Senado, a alternativa é a PL 21/2020. Época Negócios. 23 dez. 2022. Disponível em: https://epocanegocios.globo.com/colunas/iagora/coluna/2022/12/precisamos-debater-o-relatorio-da-comissao-do-senado-a-alternativa-e-a-pl-212020.ghtml. Acesso em: 12 jun. 2023.
PINHEIRO, Patrícia Peck. Direito Digital Aplicado 5.0: Especial Administração Pública. São Paulo. Thomson Reuters Brasil. 2022.