- Alexa (assistente pessoal virtual, criada pela Amazon) qual a temperatura de hoje?

- SIRI (assistente da apple) ligue para o escritório

- Bia (atendente virtual Bradesco) desbloqueie meu cartão de crédito

- Magalu (atendente virtual do Magazine Luiza) me diga quais são as promoções desta semana

A nomenclatura feminina atribuída aos assistentes virtuais não é novidade. Desde a introdução da Siri em 2011, essas vozes femininas resolvem questões do dia a dia, reforçando uma tonalidade delicada e submissa. Com o tempo, essas vozes se tornaram personificações do papel histórico atribuído às mulheres, agora, na forma de assistentes virtuais.

À medida que a IA avançou, suas funções se expandiram para além da assistência, abrangendo áreas como criação de textos, projetos e automação. Nesses contextos, nomes masculinos ou não humanos, como Jasper, Watson (IBM) e ChatGPT, entram em cena.

A questão do viés de gênero na inteligência artificial tem sido debatida no mundo inteiro e engloba uma série de variáveis. A UNESCO publicou, em 2020, um relatório sobre inteligência artificial e igualdade de gênero, em que aponta os perigos dessas ferramentas tecnológicas aprofundarem as desigualdades entre homens e mulheres nos mais diferentes campos da vida em sociedade. No Brasil, a discussão sobre tecnologias disruptivas e IA tem ganhado espaço nos debates governamentais.

Atualmente, tramita no Senado Federal o PL  2338/2023, que tem o objetivo de regularizar o uso da Inteligência Artificial - IA no País e responder a preocupação crescente sobre como devemos lidar com essa forma de tecnologia.

Apesar de outros projetos de lei existirem, o PL em voga foi elaborado por uma Comissão de Juristas a partir de três outros projetos: o projeto n°5.051/2019, de autoria do Senador VERA e Styvenson Valentim (Podemos-RN), o projeto n°872/2021, apresentado pelo Senador Veneziano Vital do Rêgo (MDB-PB) e, especialmente, o PL 21/2020, de autoria do Deputado Eduardo Bismarck (PDT-CE), que foi aprovado em 2021 na Câmara dos Deputados.

Em maio de  2023, o Presidente do Senado Federal, Senador Rodrigo Pacheco, apresentou oficialmente o projeto e em sua justificativa apontou que o projeto tem um duplo objetivo: proteger os direitos das pessoas impactadas pela Inteligência Artificial e estabelecer uma estrutura de governança para garantir a interpretação clara das regras, proporcionando segurança legal para a inovação tecnológica.

Logo no 2° artigo, o projeto enumera os fundamentos do desenvolvimento e da utilização da IA no Brasil e determina a centralidade da pessoa humana e lista, entre outros, a obrigatoriedade do respeito aos direitos humanos, à democracia, à igualdade e à não discriminação.

Em todo o texto do Projeto de Lei, a palavra gênero aparece duas vezes: a primeira no art.4°, IV, no qual se define discriminação, e no art.12, I, que define que as pessoas afetadas por decisões, previsões ou recomendações oriundas da utilização de inteligência artificial têm o direito a um tratamento justo e isonômico.

Apesar de positivar a ilegalidade da discriminação em toda e qualquer frente, inclusive a discriminação de gênero, o projeto de lei brasileiro não dedica um artigo a exigir compromissos e políticas tanto da iniciativa privada quanto dos órgãos governamentais para que as ferramentas de IA não sejam utilizadas para aprofundar a tão desigual relação de oportunidades entre homens e mulheres, muito menos a exigência de que as ferramentas de IA combatam a desigualdade existente.

Diferentemente do silêncio do projeto brasileiro, a abordagem da Comissão Europeia enfatiza a igualdade de gênero na regulação da IA e a proposta de regulação do tema (Artificial Intelligence Act) reafirma a obrigatoriedade de equidade entre homens e mulheres, consagrada na Carta dos Direitos Fundamentais da União Europeia.

A Organização para a Cooperação e o Desenvolvimento Econômico (OCDE), por sua vez, em suas recomendações aponta que os envolvidos devem agir proativamente na administração responsável de IA confiável "em busca de resultados benéficos para as pessoas e para o planeta" e essa atitude deve incluir a diminuição de desigualdades econômicas, sociais e de gênero, bem como a preservação de ecossistemas naturais.

Em ambos os exemplos, a legislação reconhece a desigualdade de gênero como um perigo na utilização das ferramentas de AI e conclama os Estados a impedir que isso aconteça.

O Brasil está mais avançado do que a maioria dos países democráticos na regulação das ferramentas de inteligência artificial, contudo, até o momento, as propostas em voga não abordam a questão estruturante do viés de gênero. A produção legislativa, desenvolvida majoritariamente por homens, continua insensível ao papel fundamental das normativas para a construção de uma cultura social e economicamente igualitária.

A aprovação de uma regulação da Inteligência Artificial comprometida com os direitos humanos e com a segurança das pessoas é imprescindível para que o Brasil se destaque na iminente revolução tecnológica, porém para que essa regulação cumpra o seu objetivo é essencial que o Estado brasileiro se comprometa, categoricamente, com a defesa de sistemas inteligentes igualitários, que sejam constantemente reavaliados e estruturalmente desenhados para a igualdade de oportunidades para homens e mulheres.