Tiktok ban, constitucionalismo digital e jurisdição: opacidade do legal design e esvaziamento dos dados

No dia 23 de março de 2023, o CEO do aplicativo Tiktok, Shou Chew prestou depoimento perante o Cômite de Energia e Comércio do Congresso Nacional nos Estados Unidos, em um movimento que veio a ser denominado pela mídia de TikTok ban¹.

Em português, refere-se a um movimento pelo banimento legal do aplicativo dos Estados Unidos. São proposições legislativas de restrição ao download e acesso a aplicativos – que assim como o Tiktok – ameaçam, em tese, a segurança nacional e segurança de dados dos usuários nos Estados Unidos por adversários nacionais.

A ameaça: o “persuasion profile”

Há várias iniciativas e projetos de lei² tratando sobre esse tema, bem como medidas restritivas variadas em caso de ameaça a dados pessoais e dados não pessoais  automatizados³, os quais são informações privadas e comportamentais de americanos.

Mas, que tipo de ameaça seria essa? Cite-se, como exemplo, um video postado no Tiktok sobre o estado de saúde de um usuário americano – o que não seria um comportamento digital incomum – ou, ainda, conhecer os dados de acesso ao aplicativo (analytics), o que demonstraria comportamentos e preferências do usuário.

Esses dados, em amostra suficiente, permitiria que se trace o “persuasion profile”⁴, isto é, um perfil representativo do americano. Uma vez traçado, esse perfil orienta a construção e arquitetura das ferramentas e interfaces digitais (como redes sociais) a fim  de influenciar, engajar ou persuadir o usuário dessas ferramentas no futuro. A ferramenta digital – que o usuário utiliza – coleta os dados desse mesmo usuário no momento do uso e, a partir disso, sofre alterações no design, personalizando-se ao perfil dessa persona, para se tornar ainda mais engajadora e capaz de influenciar o usuário⁵. Causa, então, alvoroço o fato de que o perfil persuasivo do americano poderia ser acessado, em tese, por adversários estrangeiros.⁶

É bom que se diga, como premissa inicial, que pesquisas de persuasive design e persuasive technology⁷ já demonstraram o papel persuasivo ou de influência comportamental que a tecnologia digital detém. Demonstram, ainda, como essa tecnologia poderia influenciar o comportamento do usuário mediante sistemas recomendatórios de (des)informação, pela personalização e pelas técnicas de design.

No mesmo sentido, no âmbito constitucional, não é recente a preocupação de Cass Sunstein⁸ com o fato de que a informação é, por si só, um elemento de persuasão. O design da escolha e da forma de apresentação dessa informação e o seu enquadramento – o que foi denominado de arquitetura de escolhas – influencia a tomada de decisão do sujeito, com resultados empiricamente demonstráveis. Quando a informação é desenhada para influenciar num determinado sentido, comparativamente a um design aleatório e não direcionado a dada finalidade, é possível– em caso de acerto do design – uma majoração dos resultados desejados. Noutros termos, se o designer acertou o modelo mental do usuário, haverá mais tomadas de decisão no sentido intencionalmente querido, em comparação ao grupo de controle, em que não houve direcionamento nenhum.

As iniciativas e projetos de restrição às TIC`S

 É justamente nessa linha de preocupações que pululam iniciativas e projetos de lei restritivas  à aplicativos de adversários estrangeiros e projetos restritivos/vedatórios à interoperabilidade global de dados. Imagine uma empresa chinesa com a Bytedance⁹, controladora de um aplicativo popular como o tiktok, a qual tem acesso aos dados pessoais sensíveis e comportamentais de americanos com perfil persuasivo: levanta-se, nesse cenário, um possível temor de que esses mesmos dados seriam acessíveis pelo Governo da China, para fins perversos ou para manipulação em “guerra” digital.

Foi, nesse contexto, em que se deu o depoimento do CEO do Tiktok no Congresso Nacional Americano. Mas, diferentemente do que se esperava e do objeto em discussão, o depoimento rendeu momentos constrangedores em plenário e memes em redes sociais.

Houve perguntas que revelaram o profundo desconhecimento pelos congressistas sobre o funcionamento do aplicativo e sobre o funcionamento da própria internet. Houve, inclusive, perguntas se o aplicativo do tiktok usava o wi-fi residencial, o que foi imediatamente respondido pelo CEO do tiktok “apenas se o usuário ligar”¹⁰. Isso revela desconhecimento sobre o funcionamento da internet e sobre o fato de que aplicativos online  – de qualquer espécie –  acessam à internet – via cabo ou wi-fi – para uso.

Todo o mise en scène midiático e as perguntas indevidas – até mesmo jocosas –  que o incidente gerou podem fazer perder de vista a questão de fundo objeto da discussão¹¹: razões de ordem político-constitucional e a discussão propriamente dita sobre os vários projetos de lei sob reflexão nos Estados Unidos, como o “Data Act” ou o “Restriction Act”¹² ou, ainda, a proposta “American Data Privacy and Protection Act”¹³.

As proposições legislativas, em geral, são restritivas ao compartilhamento de dados, sendo que as minúcias e diferenças entre os projetos não serão abordadas nessa oportunidade. Importa dizer, agora, que há iniciativas datadas do governo Trump¹⁴, mas que, recentemente, a proposição legislativa ganhou o apoio da Casa Branca, no governo Biden, no sentido de fortalecer a ingerência do Poder Executivo para restrição das TIC`S – tecnologias da informação e comunicação. A restrição às TIC`S são oponíveis às redes sociais ou a qualquer outra ferramenta digital que colete dados e interaja com usuários. Vale, em tese, até mesmo para uma ferramenta de resolução de disputas – ODR, por exemplo.

É preciso redirecionar, então, a atenção à questão político-constitucional que as TIC`S e as bigtechs despertam.

O constitucionalismo digital, a governança ética dos dados e o devido processo legal no âmbito tecnológico

No âmbito político-constitucional, o legislador e os órgãos regulatórios revelam preocupação com descentralização transfonteiriça de dados dos usuários estunidenses ou interoperabilidade global por empresas de tecnologia digital, conjunto de questões que vem sendo denominada de constitucionalismo digital¹⁵. Inclui-se, nesse âmbito de estudo, questões de soberania digital, devido processo legal tecnológico, a governança ética de dados digitais, os direitos e garantias fundamentais dos usuários, e design jurídico na arquitetura das plataformas digitais (ecommerce, Cortes Online, ODR`s) e outros.

É a questão do constitucionalismo digital que merece, então, a nossa imediata atenção A restrição às TIC`S e o possível banimento do Tiktok são apenas a ponta do iceberg.

E, mais, os impactos estudados pelo constitucionalismo digital são de diferentes ordens. Para diagnosticar alguns desses impactos, importa destacar que há reverberação, inclusive, no exercício da atividade jurisdicional e nos dados obtidos pelas Cortes de Justiça. Enumeramos abaixo alguns pontos de reflexão:

(i)  Dados não tem fronteiras e, uma vez, detidos e compartilhados pelo bigtechs sem regulamentação específica, não estão mais disponíveis ao fácil controle dos Estados Nacionais, o que implica perda de controle sobre a informação e, com isso, a perda de poder estatal no seu sentido mais clássico;

(ii)  ao lado das questões de soberania e do exercício do poder estatal, há, ainda, as questões atinentes aos direitos e garantias dos usuários: como esses dados são usados? Como esses dados influenciam o usuário na medida em que orientam a construção e design das ferramentas digitais, inclusive, as ferramentas do próprio Estado (governo digital, cortes online, ferramentas de resolução de conflitos, ODR`s etc)? Qual o design normativo e constitucionalmente adequado a ser dado às ferramentas digitais?¹⁶

(iii) há impactos, inclusive, sobre o Estado-Juiz e a prestação jurisdicional, mormente pelo movimento de desjudicialização¹⁷, privatização e pelo uso de ferramentas digitais privadas de resolução de disputas, pois em todos esses casos há a descentralização dos dados e um esvaziamento do controle estatal, sobre os dados referentes à resolução de disputas naquele sistema jurídico. Noutros termos, o Estado não sabe mais como são resolvidas os conflitos em sua sociedade, uma vez que ou ele não resolve mais diretamente, ou ele não tem supervisionado a resolução desses conflitos pelos entes descentralizados.

A descentralização transfonteiriça de dados pelas bigtechs, a ausência prima facie de transparência dos dados coletados e o parco controle sobre seu uso/compartilhamento, com frágil regulação pelos Estados, são as questões de fundo e para qual nossa atenção deve ser direcionada. E não estamos falando apenas de redes sociais, mas qualquer empresa de tecnologia digital que colete dados e os reempregue na própria plataforma para engajar resultados: inclusive as plataformas privadas de resolução de disputas, a resolução automatizada de disputas (smart contracts, com negócios processuais e autotutela inteligente) ou, até mesmo, as Cortes Online.

Descentralização da resolução de disputas e jurisdição: esvaziamento do controle do Estado e opacidade no reemprego intencional desses dados nas ferramentas digitais.

A resolução de conflitos hoje popularizou-se na sua forma online¹⁸. Trata-se de plataformas privadas de negociação e resolução (ODR`s)¹⁹, bem com da tendência de algoritimização da justiça (Cortes Online, procedimentos eletrônicos, robôs etc)²⁰ e desjudicialização dos seus serviços, como os contratos inteligentes com mecanismos de negociação processual e autotutela digital²¹. E, em todos esses casos, mormente se as empresas detentoras das plataformas não forem nacionais, há o esvaziamento do controle de dados sobre resolução de disputas das mãos do Estado-Juiz e, de outra parte, o uso desses dados por terceiros.

 Noutros termos, o Estado não mais será o principal detentor dos dados sobre a resolução de disputas no Brasil e, ainda, não há, supervisão sobre a alocação e o uso descentralizado desses mesmos dados por eventuais entes privados: que podem desde vender esses dados, como também reempregá-los no design das próprias plataformas.

Calha destacar, ainda, que a descentralização é tendência. Essa tendência decorre tanto “esmero” da administração judiciária²² na construção de políticas de redução do backlog de processos e da criação de obstáculos normativos ao acesso aos tribunais²³, como também decorre da melhor experiência proporcionada aos usuários pelas plataformas privadas, com serviços mais intuitivos e no estilo self-service²⁴.

Se classicamente, a via jurisdicional era a trilha procedimental regular e preferencial para a resolução de disputas no Brasil, sendo as demais denominados meios alternativos, agora a tendência é que os alternativos tornem-se o regular²⁵. É preciso, então, atentar-se para a alocação dos dados de resolução de disputas e também sobre a governança ética-constitucional desses dados, uma vez que o uso e compartilhamento desses dados podem ser usados para fins perversos.

O uso perverso desses dados – no âmbito da resolução de disputas – vale dos mesmos mecanismos das redes sociais. A rede social interessa-se, por exemplo, em atrair o atenção do usuário, para que ele “arraste para cima”, “compartilhe” e, com isso, seja influenciado impulsivamente a comprar uma mercadoria, a título de exemplo. A administração judiciária pode interessar-se em criar um design de ferramenta que favoreça a resolução consensual de disputa²⁶, com o único próposito de resolver seu backlog, sem preocupação em ser essa uma escolha racional do jurisdicionado. É sabido que até mesmo a quantidade de telas influencia²⁷: quanto mais telas e mais ações for exigido do usuário numa plataforma digital, maior o desincentivo para que ele continue naquele caminho. Quanto mais telas for inserida para a tentativa consensual, deixando a heterocomposição pelo juiz por último (sem que haja uma opção no estilo “avance rápido”), maior é o incentivo à solução consensual e maior é desincentivo à solução heterocompositiva, ainda que essa não fosse inicialmente a vontade racional do usuário. Nesse caso, ainda que se obtenha a solução consensual, muitas vezes ela não se deve ao restabelecimento da comunicação entre as partes e à negociação racional entre elas que sirva de fundamento ao consenso obtido, mas é o estreitamento e dificuldades (sludge²⁸) causados pela própria ferramenta digital, que desmotiva a tentativa de heterocomposição.

Nem venha a dizer que a resolução consensual decorre da autonomia da vontade do jurisdicionado, que resolveu consensualmente, pois, no caso do design persuasivo, a tomada de decisão e a manifestação da vontade é modulada comportamentalmente²⁹ para influenciar essa decisão, não por razões discursivamente justificadas, mas por razões enviesadas, não racionais. No design persuasivo, o número de telas ou passos para alcançar a solução jurisdicional não é aleatório, mas intencionalmente inserido como um desincentivo invisível (não racional) ao comportamento do usuário. Não é esse o devido processo legal tecnológico constitucionalmente adequado: não é adequado cansar ou enganar o usuário para resolver disputas – o que ocorre sem a clara percepção dele, pois essa opção vem embebida na arquitetura na própria plataforma digital.

Além do esvaziamento do controle dos dados, surge a opacidade do design jurídico (legal design). O uso descentralizado desses dados, sem firme governança ética, possibilita o reemprego desses dados dos usuários para aumentar o engajamento da plataforma de resolução de disputas, sendo que não há transparência sobre os dados utilizados e sobre os fins desse uso. Quais dados são reempregados? Qual a intenção da plataforma privada? Essa intenção é constitucionalmente adequada, é legítima sob o ponto de vista constitucional, observando o devido processo legal? São questões a ser discutidas.

A tecnologia digital, por sua vez, reforça exponencialmente o debate, pois é necessário assegurar as garantias constitucionais processuais, como proteger o devido processo legal no âmbito tecnologócio e assegurar a resolução justa de disputas. Tudo isso num sistema que fisicamente se esvai, mas que cresce virtualmente, sem limitações geográficas e sem o papel central do Poder Judiciário, ainda não supervisionado. 

Assim, respondendo a pergunta do título: essa autora não usa o tiktok. Mas, mesmo que usasse, teria medo da descentralização, opacidade e esvaziamento não supervisionado dos dados do controle estatal e da possível dominação da bigtechs na alocação e governança desses dados, inclusive no tocante à resolução de disputas.

Jurisdição é soberania³⁰. A soberania tornou-se digital, os dados digitais tornaram-se globais e com tendência à descentralização, mas a jurisdição dorme em berço esplendido como se a questão não a afetasse. Assim, parodiando cantiga infantil de Vinicius de Moraes, o tribunal multiportas vai ficar muito engraçado, será um tribunal virtual sem portas, sem dados e sem nada...só me falta a coreografia e quem a interprete no tiktok.

______________

1 Nesse sentido: FUNG, Brian. THORBECK, Catherine. The US government is once again threatening to ban TikTok. What you should know. CNN [online]. Washington, 23 de mar. de 2023. Disponível em: https://edition.cnn.com/2023/03/18/tech/tiktok-ban-explainer/index.html. Acesso em 23 de abril de 2023.

Juliana Justo Botelho Castello
Doutora em Direito Processual Civil - USP. Mestre em Direitos e Garantias Fundamentais - FDV.