Marco legal da IA: A necessidade de confiança e o desafio de regular sem engessar

Diante da crescente presença da IA no cotidiano e nos negócios, o Poder Legislativo brasileiro avança para regular seu desenvolvimento e uso de maneira ética e responsável. O PL 2.338/23, conhecido como marco legal da IA, busca equilibrar a inovação tecnológica com a proteção de direitos, estabelecendo parâmetros claros para empresas e consumidores. Após aprovação pelo Senado Federal em 10/12/24, o texto segue agora para a Câmara dos deputados e, posteriormente, se aprovado, para sanção da presidência da República.

O PL visa estabelecer diretrizes para o "desenvolvimento, fomento, uso ético e responsável da inteligência artificial", conforme dispõe a atual redação de seu preâmbulo. Nesse sentido, a norma busca definir parâmetros éticos, de transparência e governança para desenvolvimento e utilização da tecnologia, bem como sistematiza os riscos da atividade, as obrigações e as responsabilidades dos agentes envolvidos.

Entre seus fundamentos, o esboço legal elenca a centralidade da pessoa humana, respeito aos direitos humanos, não discriminação, inovação, desenvolvimento tecnológico, proteção de dados e acesso à informação. De modo a assegurar a efetividade destes princípios, a proposta legislativa defende medidas como avaliações de riscos rigorosas e decisões tecnológicas que garantam rastreabilidade, possibilidade de revisão humana e correção de vieses discriminatórios.

Tantas exigências e regulamentações - ainda que essenciais ao bom desenvolvimento social - podem se mostrar obstáculos à evolução das atividades empresariais. Por essa razão, é primordial que as empresas estejam atentas à nova legislação, de modo a adequar suas atividades e normas internas e externas de governança.

No âmbito contratual, as novas exigências legais relacionadas à IA impactarão diretamente os contratos empresariais, exigindo revisões tanto em acordos futuros quanto em documentos já vigentes. Se aprovado, o PL 2338/23 implicará, pelo menos, duas relevantes preocupações às organizações empresariais: De um lado, exigirá extrema atenção aos assuntos relacionados a boas práticas e governança corporativa e, de outro, demandará que as partes contratantes consigam equilibrar os custos das contratações, que se tornarão ainda mais complexas.

No tocante às boas práticas no desenvolvimento e utilização de IA, como destacado acima, a proposta legislativa prima pela transparência, proteção de dados e respeito aos direitos dos usuários. Assim, todas as operações e contratações deverão refletir padrões de governança corporativa rígidos e critérios de conformidade legal e regulatória, tanto no âmbito interno quanto externo.

Tais premissas, especialmente quando somadas à exigência de rigorosas avaliações de riscos das atividades empresariais, demandarão a elaboração de cláusulas contratuais robustas. Alguns dos pontos de atenção que se destacam são a necessidade de que os contratos detalhem a alocação de riscos e mecanismos de mitigação, limites de responsabilidade de cada uma das partes envolvidas e cláusulas que protejam as partes contra eventuais penalidades em caso de descumprimento da legislação - uma vez que o PL em questão estipula a possibilidade de multas de até R$ 50 milhões por violação, ou até 2% da receita da empresa.

De outro lado, todas essas adaptações necessárias, naturalmente, tendem a aumentar os custos operacionais, mormente se associadas a investimentos em auditorias independentes regulares, consultorias especializadas e formação de equipes internas para gestão de riscos regulatórios - investimentos estes que não são mandatórios a todas as empresas, mas podem se mostrar imprescindíveis em operações complexas e possivelmente em alguns setores de atuação específicos - a depender do texto legal que for aprovado. Tais custos acabarão por serem alocados entre as partes contratantes, sendo, desta forma, mais um reflexo contratual.

O marco legal da IA vem, portanto, como uma resposta necessária e ambiciosa ao avanço desta tecnologia no cenário empresarial brasileiro, trazendo consigo a importante missão de proteger os direitos dos agentes envolvidos e entregar confiança e segurança ao desenvolvimento e utilização da IA no âmbito nacional.

Em que pese as diretrizes propostas pelo PL 2338/23 sejam cruciais para controlar riscos empresariais e garantir o uso responsável das tecnologias, o projeto também traz consigo desafios substanciais, mormente para pequenas e médias empresas que ainda não possuam alto grau de desenvolvimento em termos de governança e compliance. Assim, é essencial que a regulamentação proposta inclua mecanismos de suporte ou medidas de flexibilização, visando prevenir impactos desproporcionais em organizações de diferentes setores e portes.

O texto aprovado pelo Senado Federal, no entanto, ainda não satisfaz tal premissa. Pelo contrário, apenas dispõe de forma breve que "as autoridades setoriais deverão definir critérios diferenciados para sistemas de IA ofertados por microempresas, empresas de pequeno porte e startups que promovam o desenvolvimento da indústria tecnológica nacional". Destaca, também, que "critérios diferenciados devem considerar o impacto concorrencial das atividades econômicas correlatas, o número de usuários afetados e a natureza das atividades econômicas exercidas" (art. 67). A proposta carece de profundidade nesse aspecto, deixando, até o momento, de propor medidas concretas de auxílio a estas empresas na adaptação às novas exigências legais, tais como incentivos fiscais ou programas de capacitação.

O PL ainda passará por análise e deliberação da Câmara dos deputados, oportunidade em que poderá contar com contribuições valiosas e necessárias para que a legislação alcance seus objetivos.