Taylor Swift e eleições: Entenda como a IA se tornou ameaça eleitoral

Era esperado que a corrida eleitoral dos EUA esquentasse com a virada do ano. O que não se previa era o fenômeno da música pop, Taylor Swift, no epicentro dos debates entre democratas e republicanos.

A divulgação de uma imagem deepfake de teor sexual da cantora em redes sociais, no mês passado, provocou movimentos políticos pedindo a aprovação de leis que regulamentem a IA generativa no país.

O medo de que as ferramentas de IA sejam utilizadas de modo negativo durante as campanhas eleitorais também é sentido no Brasil, tendo em vista a aproximação das eleições municipais.

The Taylor Swift Act

As imagens falsas de Taylor Swift foram divulgadas no Telegram e no X (antigo Twitter). As redes sociais agiram para remover o conteúdo, e o X chegou a impedir que o nome da cantora fosse pesquisado por algumas horas.

Entretanto, tais medidas não foram capazes de evitar que a postagem tivesse 45 milhões de visualizações e mais de 24 mil compartilhamentos. 

A situação mexeu com setores políticos dos EUA. Eles passaram a pressionar o legislativo para acelerar a aprovação de leis que regulamentem a IA. 

Segundo o jornal The Washington Post, atualmente 10 Estados norte-americanos contam com legislação relacionada à tutela de deepfake. No Missouri, o legislativo deu o nome da cantora ao projeto de combate a deepfakes, trata-se do "The Taylor Swift Act".

Um grupo de legisladores democratas e republicanos apresentou um projeto de lei Federal denominado "No AI FRAUD", visando combater mídia falsa criada pela IA generativa.

No Brasil

O Brasil vem se movimentando para criar diretrizes e leis que tutelem o uso de IA, IA generativa e que definam a amplitude da responsabilização de redes sociais sobre o compartilhamento de conteúdo falso.

O governo Federal, em 2021, lançou uma cartilha denominada EBIA - Estratégia Brasileira de Inteligência Artificial para orientar o uso responsável de IA.

No Legislativo, destacam-se os PLs 21/20 e 2.338/23 que buscam estabelecer princípios para o desenvolvimento e aplicação da IA no Brasil. Eles estão em fase de análise pelas comissões do Senado.

O PL 2.630/20, conhecido como "PL das Fake News", já aprovado no Senado e em tramitação na Câmara, visa criar medidas para combater a disseminação de conteúdo falso nas redes sociais. 

No Judiciário, destacam-se iniciativas do TSE. Em 2019, a resolução 23.610 regulou a propaganda eleitoral prevendo penalidades às que contivessem desinformação. 

Em janeiro passado, o TSE divulgou minuta de instruções na qual estabeleceu que conteúdos para campanha feitos por IA devem ser acompanhados de uma informação explícita em destaque de que a ferramenta foi utilizada para a criação.

No documento também há a proibição de desinformação na propaganda eleitoral e imposição de que o provedor de aplicações de IA impeça ou diminua a circulação do conteúdo. 

Tendo a minuta como base, três audiências públicas foram realizadas para coletar sugestões sobre o tema.

Recursos acessíveis

Nos Estados Unidos e no Brasil, a lacuna entre a legislação existente e a velocidade das inovações tecnológicas se torna cada vez mais evidente.

Para se precaver contra propaganda eleitoral desonesta, algumas dicas práticas podem ser úteis. Por exemplo, desenvolver o hábito de observar detalhes nos vídeos, como movimentos de imagem que não parecem naturais, lábios mal sincronizados, elementos digitais nas imagens, variações no tom de pele e piscadas incomuns.

Uma ferramenta que merece destaque é o Fake Catcher, desenvolvido pela Intel, que promete uma elevada taxa de precisão na detecção de deepfakes.

Torna-se cada vez mais imperativo a adoção de estratégias robustas para resguardar a esfera pública - e particular, como ocorreu com Taylor Swift - contra a disseminação prejudicial de deepfakes para garantir a integridade dos processos democráticos.

Caso contrário, daqui a pouco iremos acabar votando em candidatos fakes. Falamos no sentido literal, e não metafórico, pois neste último...