As redes sociais têm enfrentado grandes dilemas sobre moderação de conteúdo e regulação nos últimos anos. O debate é complexo e envolve as corporações, os governos e diferentes grupos da sociedade civil, com reflexos determinantes até mesmo para o processo eleitoral das democracias modernas. Em 2019, o Facebook teve a iniciativa, até então inédita, da criação de um órgão de julgamento externo e independente, com poderes para revisar as decisões sobre conteúdo tomadas pela empresa, com veredito vinculante. Trata-se do Oversight Body, ou Comitê de Supervisão, ainda pouco comentado no Brasil, mas cujas atividades já impactaram diretamente um caso brasileiro e, provavelmente, o farão ainda mais, com a iminente decisão final sobre a suspensão das contas do ex-presidente norte-americano Donald Trump.
O Comitê de Supervisão iniciou suas atividades em 2020, atualmente possui 19 membros - dentre eles, o brasileiro Ronaldo Lemos, professor da Faculdade de Direito da UERJ - e publicou suas primeiras decisões em janeiro de 2021. Convém mencionar que a atuação do órgão não corresponde a uma nova instância para revisão das decisões do Facebook. O objetivo do Comitê é atingir um número restrito de casos emblemáticos. Portanto, há um processo de seleção antes da deliberação. Os primeiros casos escolhidos abrangem temas de grande importância como desinformação, violência e discurso de ódio, com correspondentes em todos os cinco continentes.
Nessa primeira ocasião, o órgão se dedicou ao caso de uma usuária brasileira1 que, durante a campanha nacional do Outubro Rosa, publicou conteúdo sobre sintomas e exames de prevenção do câncer de mama, em que imagens de mamilos femininos apareciam para auxiliar no autoexame. O conteúdo foi denunciado e a análise automatizada do Facebook retirou a publicação do ar por suposta violação aos termos da rede sobre nudez adulta. Mais tarde, ao perceber o equívoco da decisão automatizada, que foi incapaz de reconhecer a menção ao câncer de mama feita nas imagens, a empresa restabeleceu o conteúdo, o que não foi considerado um impeditivo para que o Comitê de Supervisão se dedicasse à revisão do caso.
Restabelecido o conteúdo, a decisão recomendou ao Facebook que aprimorasse a tecnologia de leitura de imagens com sobreposição de texto utilizada para moderação de conteúdo, bem como, permita aos usuários saber quando uma decisão foi tomada por sistema automatizado e recorrer desta. Além disso, as Diretrizes da Comunidade do Instagram e os Padrões da Comunidade Facebook foram revisados para incluir expressamente a ressalva de nudez com fins de “conscientização sobre o câncer de mama”. O Facebook já possuía ressalva quanto à nudez adulta para “fins médicos e educacionais”, enquanto o Instagram não. Verificadas inconsistências entre as políticas de utilização dessas redes, definiu-se que as políticas de uso do Facebook devem prevalecer sobre as do Instagram.
A análise desse paradigma foi importante tanto para evidenciar as falhas a que estão suscetíveis às decisões automatizadas quanto trazer à tona mais uma vez o debate tanto sobre a disparidade de tratamento pelas redes sociais entre os corpos ditos femininos e masculinos quanto sobre a hiperssexualização da imagem feminina, que resvala na liberdade de expressão, de informação e, no caso, até no direito à saúde das mulheres. Além disso, esse caso foi importante também para elucidar a extensão do alcance das decisões do Comitê de Supervisão, pois, ao sustentar a competência para deliberação sobre um conteúdo que já havia sido restituído à plataforma, fica evidente que as funções do órgão não se restringem apenas a endossar ou vetar as decisões do Facebook, mas, antes, incluem orientar futuras decisões e políticas de utilização das redes.
A amplitude da competência do Comitê de Supervisão é especialmente importante para compreender o recente comunicado dos próximos casos admitidos pelo órgão, que inclui a suspensão das contas de Trump. Inicialmente, a competência do Comitê não previa a atividade de análise de suspensão de contas, apenas de conteúdos, todavia, com o barulho provocado pela decisão da suspensão por tempo indeterminado das contas de um chefe de Estado, por violação aos termos das redes, a extensão do escopo de atribuições do órgão foi antecipada.
O debate sobre o banimento de usuários de notória relevância política perpassa temas delicados como os limites da liberdade de expressão, a confusão entre a atuação oficial e pessoal das figuras de Estado nas redes sociais, o combate aos discursos de ódio e a influência das redes na política. Um debate deveras complexo sobre o qual o próprio Facebook expressou desconforto em ter que decidir sozinho, ante a ausência de diretrizes legais nesse sentido.
Permitir que o Comitê de Supervisão participe dessa tomada de decisão é uma indicação positiva da empresa no sentido de compartilhamento de responsabilidade pelas decisões tomadas, aumentando a transparência e a imparcialidade do processo. Ao mesmo tempo, ainda que alinhada a um movimento amplo de proposições para a regulação da moderação de conteúdo2, a existência do Comitê é uma novidade muito recente e a atribuição de autoridade para proferir a decisão final sobre um caso dessa importância passa a ser decisivo também para sua reputação e para delimitar os limites futuros de sua própria atuação.
Independentemente do resultado do julgamento sobre a suspensão das contas de Trump, há razões de sobra para se atentar às próximas ações do Comitê de Supervisão, vez que o atual presidente do Brasil também é conhecido pelo uso controverso das redes sociais e por arroubos antidemocráticos, de modo que a decisão sobre o banimento de Donald Trump pode implicar uma diretriz que afete diretamente também Jair Bolsonaro.
De um lado e de outro, estamos diante de um cenário de ineditismo protagonizado por um órgão independente revisor das decisões sobre moderação de conteúdo, analisando a suspensão das contas de uma figura de destaque no cenário político internacional, cujos efeitos deliberativos podem se estender a outros países, a partir das recomendações de política de uso, impactando profundamente o exercício democrático pelos próximos anos.
___________________
1 O Comitê de Supervisão não divulgou informações sobre a identidade do usuário, neste artigo optou-se pela utilização do pronome feminino para as referências.
2 Citam-se como exemplos, notadamente, o Change the Terms, Santa Clara Principles e Manila Principles