“Viés” do algoritmo: computadores induzem decisões humanas erradas?

A tomada de decisão pelo ser humano ocorre de duas maneiras: pelo sistema cognitivo 1 e pelo sistema cognitivo 2¹. O primeiro é o que nos permite realizar escolhas rápidas, automáticas e intuitivas - e é neste “local" onde estão situados os vieses e as heurísticas cognitivas, ou seja, em termos simples, os atalhos mentais e extremamente associativos que proporcionam essa tomada de decisão no modo fast food.

Já o sistema cognitivo 2 é o que nos proporciona a tomada de decisão racional, baseada em custo e benefício, pensada e repensada em todos os possíveis detalhes. Logicamente, por ser tão meticuloso, o sistema 2 é devagar, preguiçoso, não gosta de ser chamado para a batalha. Segundo Daniel Kahneman, em apenas 5% das vezes que realizamos alguma escolha é que fazemos uso do sistema 2. Somos, portanto, seres muito mais intuitivos do que imaginamos.

Atualmente, embora não estejamos mais correndo dos animais, passamos a perseguir o tempo, essa necessidade insaciável de resolver tudo rápido, para ontem e (ainda) com qualidade. São as metas do CNJ que devem ser batidas, são as ações que devem ser propostas, são aqueles clientes que estão esperando para ser atendidos e ver seus conflitos magicamente resolvidos em segundos - sem contar a vida social, conjugal etc. Assim, depois de passarmos por um período de ganho de experiência, para tentarmos atingir e bater todas essas metas, utilizamos muito mais o nosso sistema cognitivo 1 para a tomada de decisões do que o sistema 2. Privilegiamos, mesmo sem ter plena consciência disso, a intuição à razão.

E o que os algoritmos têm a ver com todas essas ilações? Supostamente, os algoritmos, a inteligência artificial, o aprendizado de máquina ou os “rôbos” podem nos ajudar nessa tarefa diária e indissociável da vida do ser humano que é a tomada de decisões. Em termos objetivos, “algoritmos são equações matemáticas ou outras regras lógicas para resolver um problema específico – por exemplo, para decidir uma questão binária (sim/não) ou para estimar um número desconhecido”². De um modo geral, a tomada de decisão por algoritmos pode significar um meio de mitigar os vieses e as heurísticas cognitivas do ser humano e, por consequência, de evitar eventuais equívocos ou erros na realização de uma escolha.

Ao que parece, com o uso - já existente em grande escala - dos algoritmos, seremos capazes de “delegar" a cansativa tarefa de racionar com o sistema cognitivo 2. Poderemos, ainda, deixar a intuição de lado, nos sentirmos mais seguros ao realizar uma escolha que, por vir de um robô, deve (ou deveria) possuir mais qualidade quando comparada a um trabalho braçal. E o ganho de tempo? Em segundos temos a base construída para a tomada de uma decisão.

No entanto, quando os executivos da Amazon passaram a testar um software desenvolvido para fazer a triagem de currículos de trabalho, classificando as pessoas de uma a cinco estrelas, descobriram que o algoritmo colocava um coeficiente negativo em termos associados com mulheres. Ou seja, o algoritmo, que supostamente deveria ajudar a Amazon a recrutar novos empregados, aparentemente estava reproduzindo vieses cognitivos humanos³.

Outro exemplo, amplamente divulgado na mídia, foi o caso do programa de reconhecimento de imagens do Google Photos, que classificou pessoas negras como “gorilas”. Como forma de

“resolver o problema” e não correr outros riscos, o Google simplesmente bloqueou o programa para deixar de reconhecer gorilas por completo⁴. Ainda, podemos citar os programas utilizados pela Justiça americana (criminal risk assessment system) para determinar o risco de reincidência em pessoas condenadas por crimes, os quais aparentemente revelaram vieses ao classificar condenados negros com o dobro de probabilidade de recidiva quando comparados com condenados brancos, mesmo quando estes possuíam antecedentes por delitos mais graves⁵. E, finalmente, a discussão sobre “carteis” praticados por robôs ao buscarem, comparerem e ajustarem preços dos concorrentes.

Ainda estamos no início de uma jornada de maior integração humana com a máquina para fins de tomada de decisões no campo individual e mesmo das políticas públicas a elas relacionadas. E, portanto, reguladores como CADE, ANPD, Senacon, devem estar alertas para novos problemas que surgirão dessa nova realidade de inteligência artificial⁶ no desenho das suas políticas públicas.⁷

A nova realidade regulatória exigirá uma maior integração dessas diferentes áreas do Direito Econômico, oferecendo oportunidade única para aproximação desses temas que andaram muito separados no Brasil. A verdade é que o Direito da Concorrência está umbilicalmente ligado ao Direito do Consumidor, uma vez que ambos protegem as estruturas de mercado e o bem estar dos consumidores, embora por caminhos distintos.

Por mais paradoxal que seja, ao emular os humanos, os algoritmos também podem apresentar algo análogo a “vieses”, e portanto, podem precisar ser corrigidos, como nosso sistema cerebral rápido. Embora, frise-se, o uso de algoritmos é e será cada vez mais vantajoso.