A Secretaria Nacional do Consumidor – SENACON por meio da Nota Técnica - Nota Técnica 40/2020/CGEMM/DPDC/SENACON/MJ, manifestou-se a respeito do uso de sistemas de inteligência artificial para correção de avaliações. Entendeu que a SENACON, em síntese, que inexiste problema pela utilização de tal tecnologia, desde que a Faculdade preze pelo princípio da transparência, deixando claro para os alunos (consumidores) que tal tecnologia seria utilizada para fins de correção.
A partir destas premissas a Senacon entendeu que em um caso concreto não se verificou a observância ao princípio da transparência, o que violaria o Código de Defesa do Consumidor.
“A questão é, essencialmente, que o aluno esteja ciente da possibilidade de utilização dessa tecnologia no momento da contratação e que seja informado especificamente quando ela for adotada. Introduzir a correção de provas via IA, subitamente, sem aviso e sem consentimento prévio do consumidor, não é prática adequada, pois altera a modalidade tradicional de prestação de ensino superior exercida durante anos. Ao deixar de disponibilizar professores para a correção de uma parcela das atividades, a instituição de ensino superior pode gerar uma quebra de expectativa dos usuários do serviço, uma vez que o padrão usual é o professor corrigir as provas dos alunos e não uma máquina”.
Com base no conceito de previsibilidade, a SENACON entendeu que é dever das Instituições de Ensino Superior (IES) informar, de maneira ostensiva, na fase pré-contratual, que a introdução de IA poderia ser adotada para correção de provas. Entendeu, ainda que mesmo no decorrer da execução do contrato, as IES devem informar aos alunos a sua pretensão de introduzir IA na correção de provas, solicitando assim sua anuência dos alunos para esta alteração na forma da prestação de serviços.
Como o uso de tecnologias aplicadas ao ensino tem sido cada vez mais intenso em diversos momentos da prestação de serviços educacionais, a utilização de novos recursos como IA, ao que nos parece, está garantido pelo artigo 207 da Constituição Federal, seja ela a autonomia didático-científica; administrativa ou Autonomia financeira e patrimonial, sendo eu qualquer restrição ao seu uso pode representar uma afronta a tal preceito constitucional, sempre ressalvado a observância das normas consumeristas, Marco Civil e da lei Geral de Proteção de Dados.
Enquanto isso, na Itália, a Universidade Bocconi (Milão) foi autuada pelo uso de dois softwares para gestão de provas durante a pandemia. Os softwares visavam controlar se o estudante abria outras janelas no PC, estava olhando para a tela durante a prova e analisava se a imagem da pessoa que estava realizando a prova era a mesma da imagem no documento de identidade.
Tal qual a SENACON a respeito da correção de provas por sistema de IA, a Autoridade Italiana de Proteção de Dados entendeu que a Universidade violava o dever de transparência e de informação, a respeito do uso dessas tecnologias e sobre o tratamento de dados pessoais (inclusive biométrico). O problema, novamente, não foi a adoção da tecnologia em si, mas a violação do dever de informação.
Basicamente, não havia informações sobre a comparação com a foto do documento de identidade do aluno, tampouco sobre o tempo de retenção dos dados pessoais e sobre transferência internacional de dados (para os EUA).