Por outro lado, eles têm sido utilizados para informar decisão fundamentais em nossas vidas. Há empresas que os utilizam para classificar currículos de candidatos a uma vaga de emprego, outras para ranquear os melhores pagadores e fornecer (ou não) crédito bancário. Até mesmo tribunais já os utilizam, como recentemente se viu em Winsconsin. A Suprema Corte de lá validou uma sentença que havia condenado um homem a uma pena de seis anos de prisão e que, para isso, considerou a análise preditiva do software COMPASS baseada em antecedentes criminais, idade, vida social, nível de escolaridade, utilização de drogas, vínculos sociais, entre outros. Ocorre que o algoritmo é sigiloso e impediu que os advogados contestassem adequadamente seus resultados.

Parece surpreendente? Cada vez mais nos depararemos com situações assim haja vista o surgimento dos carros autônomos, por exemplo.

Fato é que discussões sobre a responsabilidade e transparência no uso de algoritmos ainda são incipientes no Brasil.

Embora fundamentais para a construção da atual sociedade digital, não são comumente auditados e habitam o ordenamento jurídico sem que normas possam reger sua utilização e transparência. Não há, igualmente, diretivas sobre melhores práticas. É, portanto, fundamental haver um diálogo global entre as empresas que se valem deste tipo de tecnologia, consumidores e os reguladores com vistas a garantir que os direitos dos cidadãos sejam devidamente protegidos e que as análises possam ser contestadas.

A conjuntura tecnológica tem rapidamente sido alterada com o advento de poderosíssimos computadores e algoritmos que caminham para um impressionante desenvolvimento de inteligência artificial. Não nos resta qualquer dúvida de que a inteligência artificial revolucionará a prestação de serviços e também a indústria. O problema é que questões éticas precisam ser urgentemente pensadas e discutidas. Ou vamos simplesmente admitir que máquinas nos julguem em processos judiciais? Ou que decidam quem deve viver ou morrer em situações de acidentes que poderiam sofrer intervenções de algum equipamento tecnológico, como os carros autônomos?

A questão transcende e transcenderá a preocupação com quais dados são coletados dos consumidores para se questionar como estes dados são utilizados pelos algoritmos. Apesar da existência de algumas normas protetivas do consumidor, não há mecanismo efetivo disponível a eles que lhes digam, por exemplo, se foram discriminados automaticamente tendo negados empréstimos ou empregos.

Por outro lado, as empresas obviamente têm grande interesse que eles sejam mantidos sob absoluto sigilo porque representam, sob outra ótica, segredos comerciais valiosíssimos e essenciais para os negócios digitais. É este abismo entre o desconhecimento do consumidor e o sigilo das empresas que precisará ser melhor debatido para que se garanta a transparência necessária para assegurar que qualquer processo de tomada de decisão que afeta significativamente os cidadãos não seja simplesmente terceirizada para máquinas.

Recentemente alguns gigantes da tecnologia como o Google, Facebook, Microsoft, Amazon e IBM lançaram uma parceria para tratar de inteligência artificial e como ela poderá afetar e beneficiar as pessoas e a sociedade. Apesar do esforço das referidas empresas, isso ainda não é o suficiente para que a questão dos algoritmos, da inteligência artificial e da ética seja considerada resolvida. A autorregulação não é o bastante para garantir a devida transparência, o que deveria ser feito por alguém absolutamente imparcial.

As ponderações sobre o uso e transparência dos algoritmos transitam por assuntos naturalmente polêmicos como a liberdade de expressão, a concorrência desleal, a privacidade, a democracia e a confiança nas sociedades permeadas pela tecnologia. Indiscutível, portanto, a urgência da criação e disseminação de uma agenda para a sua discussão com vistas a alcançar um equilíbrio entre a transparência para os consumidores e a garantia da inovação para as empresas.