Nos últimos dias nosso país tem enfrentado uma série de graves ataques em ambientes escolares. Diante disso, a população tem cobrado o Poder Público por medias que possam coibir, prevenir erradicar esses nefastos e criminosos episódios.
São muitos os fatores que contribuem para esse momento social, mas um deles tem se mostrado em evidência, as plataformas e redes sociais.
Por meio das plataformas e redes sociais, indivíduos se reúnem, trocam conteúdos e se retroalimentam de ideais distorcidos e criminosos que acabam por eclodir nestes atos de barbárie. Visto que os algoritmos tudo registram e parametrizam, só por servir conscientemente de ponto de encontro para tais grupos as plataformas já teriam sua parcela de responsabilidade. Contudo, o que se observa é que as plataformas vão muito além de passivamente servir a tais grupos. Sempre que se pesquisa determinado conteúdo os algoritmos acabam por sugerir novos conteúdos semelhantes e afins. assim, quando se pesquisa sobre ataques às escolas, novos conteúdos dessa seara serão exibidos, o que pode configurar apologia ao crime, bem como, colocar mais indivíduos com pensamentos criminosos semelhantes em contato.
Vale lembrar que os direitos fundamentais previstos na Constituição Federal, incluindo a proteção dos direitos das crianças e dos adolescentes, são uma prioridade absoluta.
Nesse diapasão, diante da circulação de conteúdos ilegais e nocivos nas plataformas de redes sociais, especialmente relacionados ao extremismo violento e incitação a crimes de ataques ao ambiente escolar, é preciso considerar que essas redes não são simples exibidoras de conteúdos postados por terceiros, mas mediadoras dos conteúdos exibidos para cada um dos seus usuários, definindo o que será exibido, o que pode ser moderado e o alcance das publicações.
Como dito acima, deve-se considerar a atividade de intermediação de conteúdo desenvolvida pelas plataformas de redes sociais como fornecedora de serviços, nos termos do disposto no art. 3º do Código de Defesa do Consumidor.
Posto isso, é preciso refletir sobre o dever geral de segurança dos serviços prestados ao consumidor, conforme previsto no art. 8º do Código de Defesa do Consumidor e a previsão do art. 51 do mesmo diploma legal, que elenca como cláusulas abusivas as que impossibilitem, exonerem ou atenuem a responsabilidade do fornecedor por vícios de qualquer natureza.
Não há como negar, as plataformas de redes sociais são responsáveis, em relação às suas ações ou omissões, por zelar pela segurança de seus serviços, incluindo o cumprimento de seus próprios termos de uso e moderação.
Sendo assim, a não realização dos deveres de cuidado e segurança por parte das plataformas traz riscos anormais e imprevisíveis para os usuários, especialmente crianças e adolescentes, que são mais vulneráveis a conteúdos nocivos e perigosos nas redes. É preciso, portanto, adotar medidas de cuidado razoáveis e proporcionais para prevenir a disseminação de conteúdos flagrantemente ilícitos, prejudiciais ou danosos.
Quem atua nessa área sabe o quanto tem sido difícil obter informações sobre infratores ou remover conteúdos, tanto para as autoridades policiais quanto para os advogados, mesmo munidos de ordens judiciais.
Nesse sentido o Ministério da Justiça promulgou a Portaria 351/2023 que estabelece medidas para combater conteúdos ilícitos em redes sociais.
A mencionada portaria institui medidas administrativas a serem adotadas para prevenir a disseminação de conteúdos flagrantemente ilícitos, prejudiciais ou danosos em plataformas de redes sociais. A Secretaria Nacional do Consumidor será responsável por instaurar processo administrativo para apurar e responsabilizar as plataformas que descumprem o dever geral de segurança e cuidado em relação à propagação de conteúdos que incitam ataques a ambiente escolar ou façam apologia a crimes.
A SENACON poderá requisitar relatórios sobre as medidas tomadas pelas plataformas no sentido de monitorar, limitar e restringir tais conteúdos, além de orientá-las a avaliar e mitigar os riscos sistêmicos decorrentes de seus serviços.
Já a Secretaria Nacional de Segurança Pública coordenará a Operação Escola Segura para garantir a efetividade do compartilhamento de dados entre as plataformas e as autoridades competentes, visando o fornecimento identificação dos usuários responsáveis por conteúdos ilegais de forma rápida e prática.
A SENASP também instituirá um banco de dados de conteúdo ilegais para facilitar a identificação pelos sistemas automatizados e orientará as plataformas a usar como parâmetro a exclusão de conteúdos idênticos ou similares àqueles cuja remoção foi determinada na Operação.
Caso ocorram circunstâncias extraordinárias que ameacem a segurança pública, o Ministério da Justiça e Segurança Pública poderá acionar protocolos de crise a serem observados pelas plataformas, que deverão indicar um representante para comunicação direta com autoridades policiais e judiciárias.
O não cumprimento das obrigações previstas na portaria poderá levar a sanções no âmbito administrativo ou judicial que variam da remoção do site da plataforma até cumprimento da determinação, suspensão das atividades no Brasil e multa de até 12 milhões de reais.
Sem dúvida existe tecnologia para identificar e excluir conteúdos ilícitos, assim como acontece com violações de direitos autorais. Também é possível a identificação dos indivíduos por traz dos perfis que incitam a violência e a apologia aos crimes. Basta que as plataformas, agora sob pena de responsabilização pelo fornecimento de serviço nocivo aos seus usuários, se comprometam a coibir o uso de seus ambientes para a conexão de indivíduos que cultuam a violência e a apologia ao crime, bem como impedindo a circulação, indexação impulsionamento e sugestão de conteúdos inequivocamente ilícitos.
A situação é grave, precisa ser estancada e não há solução milagrosa, mas esse é um importante primeiro passo.
Vale mencionar também que o Governo criou canais de denúncia como por exemplo o MJ.GOV.BR/ESCOLASEGURA que podem ser utilizados quando identificamos comportamentos suspeitos.