Superexposição de crianças nas redes sociais: Implicações da IA na segurança dos menores

Neste artigo, abordaremos a crescente preocupação em torno da superexposição de crianças nas redes sociais pelos pais, destacando os riscos associados à prática conhecida como "oversharenting" e os perigos adicionados pelo uso indevido da IA.

O fenômeno conhecido como "oversharenting" é caracterizado pelo compartilhamento excessivo e indiscriminado de informações sobre a vida dos filhos nas redes sociais pelos próprios pais. Este comportamento, muitas vezes motivado pelo desejo de registrar momentos cotidianos e criar uma conexão virtual com familiares e amigos, levanta sérias questões sobre a privacidade e segurança das crianças expostas dessa forma.

O grande problema é que imagens de redes sociais podem ser exploradas para geração de pornografia infantil, como evidenciado por casos de utilização de ferramentas de inteligência artificial para geração de imagens pornográficas ("deepfake nudes") de crianças e adolescentes¹.

Criminosos exploram materiais disponíveis em redes sociais para criar imagens falsas que são comercializadas em fóruns de pornografia infantil, evidenciando uma ameaça preocupante². Para ilustrar a facilidade e rapidez com que é possível criar imagens realistas sem consentimento e divulgá-las mundialmente em poucas horas, vale relembrar o caso da cantora Taylor Swift, vítima de assédio que teve sua imagem utilizada para criar conteúdo sexualmente explícito. 

Além dos perigos ligados à inteligência artificial, a exposição a predadores sexuais é uma realidade preocupante. Estes, muitas vezes, se passam por amigos, descobrem desejos e buscam favores, que podem rapidamente evoluir para chantagens, levando crianças e adolescentes a um estado de fragilidade extrema³.

É crucial ressaltar que não se trata de um julgamento moral aos pais que compartilham a vida de seus filhos nas redes sociais. Ainda vivemos em uma cultura que não valoriza a privacidade de maneira adequada, e os conceitos abstratos do mundo digital tornam difícil compreender os riscos associados à tecnologia.

O foco do presente artigo é contribuir para que pais e responsáveis adotem posturas mais ativas na proteção digital de seus filhos, conscientes dos riscos que a tecnologia pode apresentar, como a geração de conteúdo pornográfico infantil através de algoritmos de IA.

O princípio do melhor interesse da criança demanda uma instrução constante, proveniente da sociedade e do governo, orientando as crianças e responsáveis sobre os perigos da superexposição e interação com terceiros online. O combate a esse comportamento torna-se, portanto, um dever compartilhado entre pais e a sociedade (CF, art. 227)⁴.

-----------------------------

1 Criação de imagens íntimas e inteligência artificial. Disponível em: https://www.conjur.com.br/2023-nov-18/rodrigo-alves-criacao-de-imagens-intimas-e-inteligencia-artificial/. Acesso em 11/03/2024.

2 Inteligência artificial tem impulsionado imagens de abuso na internet. Disponível em: https://agenciabrasil.ebc.com.br/geral/noticia/2024-02/inteligencia-artificial-tem-impulsionado-imagens-de-abuso-na-internet. Acesso em: 12/03/2024.

3 Inteligência artificial tem impulsionado imagens de abuso na internet. Inteligência artificial tem impulsionado imagens de abuso na internet. Disponível em: https://agenciabrasil.ebc.com.br/geral/noticia/2024-02/inteligencia-artificial-tem-impulsionado-imagens-de-abuso-na-internet. Acesso em: 12/03/2024.

4 Art. 227. É dever da família, da sociedade e do Estado assegurar à criança, ao adolescente e ao jovem, com absoluta prioridade, o direito à vida, à saúde, à alimentação, à educação, ao lazer, à profissionalização, à cultura, à dignidade, ao respeito, à liberdade e à convivência familiar e comunitária, além de colocá-los a salvo de toda forma de negligência, discriminação, exploração, violência, crueldade e opressão.