Desafios contemporâneos: Deepfakes, crianças e IA

Dois estudantes de Miami, EUA, foram presos por criar e compartilhar deepfakes pornográficas¹ de colegas de 12 anos sem consentimento². Em 2023, no Brasil, ao menos 20 meninas de uma escola particular foram vítimas da criação de imagens de nudez criadas por inteligência artificial, destacando uma tendência preocupante³.

A rápida e fácil criação dessas imagens, impulsionada pelos avanços em algoritmos de IA, torna-se uma ameaça crescente. Modelos como o SORA da OpenAI, capazes de gerar vídeos realistas a partir de instruções de texto⁴, exemplificam a rápida expansão dessa tecnologia e os potenciais riscos e benefícios associados.

Para as crianças, os riscos de deepfakes pornográficos são especialmente relevantes. Pesquisa divulgada pela empresa Safernet mostrou que somente em 2023 foram 71.867 denúncias de páginas contendo imagens de abuso e exploração sexual infantil na internet⁵ e destacou o uso de inteligência artificial para a criação desse tipo de conteúdo.

Por isso, a segurança online das crianças deve ser uma prioridade diante da evolução das tecnologias, como evidenciado por casos de utilização de inteligência artificial para criar imagens pornográficas não consensuais. Para fortalecer a defesa contra essas situações, é fundamental que pais, educadores e a comunidade estejam cientes e adotem medidas proativas, como por exemplo:

• Manter um diálogo aberto, estabelecendo uma comunicação constante e confortável sobre atividades online, para criar um ambiente no qual a criança se sente à vontade para relatar qualquer comportamento inadequado;
• Incorporar programas educativos que abordam os perigos do uso indevido de tecnologias, incluindo a criação de imagens não consensuais;
• Instruir as crianças a configurar e revisar regularmente as configurações de privacidade em suas contas online, destacando a necessidade de compartilhar informações apenas com pessoas confiáveis;
• A supervisão online é vital, mas deve ser equilibrada com a confiança. Pais e responsáveis devem monitorar as atividades online das crianças, mantendo uma abordagem que promova a confiança mútua e o desenvolvimento da responsabilidade digital;
• Educar as crianças sobre a importância de denunciar imediatamente qualquer comportamento inadequado é fundamental. Adotar procedimentos claros, como por exemplo, ensinar a criança a reconhecer adultos de confiança, como pais, familiares ou professores, a quem ela se sinta confortável em comunicar qualquer situação desconfortável;
• Incentivar a criança a identificar e expressar suas emoções. Pode ser por meio de palavras, desenhos ou outros métodos que a ajudem a comunicar seus sentimentos;
• As escolas desempenham um papel vital na prevenção. Estimular a colaboração entre escolas e pais, implementando programas educativos que enfatizem a ética digital, pode criar uma frente unida contra o assédio online.

A aplicação dessas medidas básicas protege efetivamente crianças e adolescentes das explorações do mundo virtual. A proteção online das crianças exige um esforço coletivo, envolvendo pais, educadores, e a sociedade como um todo. A educação e a conscientização são ferramentas poderosas para criar um ambiente digital seguro e saudável para as gerações futuras.

Por fim, ressalta-se que a IA, por si só, não representa qualquer risco objetivo. O maior risco está na utilização indevida dessas ferramentas por pessoas mal-intencionadas e sem a devida instrução sobre seus impactos e riscos no âmbito financeiro, político e existencial.

--------------------------------

1 Disclaimer: Este texto foi parcialmente produzido com a assistência da inteligência artificial (IA) para fornecer informações e insights relevantes a respeito dos desafios e impactos da inteligência artificial e apontar medidas protetivas. A integração da IA no processo criativo é uma abordagem inovadora que destaca a capacidade colaborativa entre tecnologia e criatividade humana. No entanto, é crucial manter uma abordagem crítica em relação à IA, reconhecendo seus benefícios e desafios para garantir uma interação harmoniosa entre as capacidades tecnológicas e a sensibilidade humana na criação de conteúdo. Acreditamos na transparência como valor ético fundamental na utilização de ferramentas de IA, em qualquer nível do processo criativo.

2 Leia mais: Florida Middle Schoolers Arrested for Allegedly Creating Deepfake Nudes of Classmates. Disponível em: https://www.wired.com/story/florida-teens-arrested-deepfake-nudes-classmates/.  Acesso em 10/03/2024.

3 Exploramos um pouco do tema neste artigo: Criação de imagens íntimas e inteligência artificial: desafios jurídicos e éticos. Disponível em: https://www.conjur.com.br/2023-nov-18/rodrigo-alves-criacao-de-imagens-intimas-e-inteligencia-artificial/. Acesso em 10/03/2024.

4 Vídeo generativo: OpenAI revela sistema de inteligência artificial que transforma textos em filmes realistas. Veja exemplos. Disponível em: https://oglobo.globo.com/economia/tecnologia/noticia/2024/02/15/openai-revela-sistema-de-inteligencia-artificial-que-transforma-texto-em-videos-realistas.ghtml. Acesso em 10/03/2024.

5 Exploração sexual infantil na internet bate recorde em 2023. Disponível aqui: https://agenciabrasil.ebc.com.br/geral/noticia/2024-02/exploracao-sexual-infantil-na-internet-bate-recorde-em-2023. Acesso em 10/03/2024.