A importância do framework NIST na definição de padrões para a IA

A utilização das IA é um caminho sem volta, logo, cautela e regulamentações são extremamente necessárias para o bom uso e para o afastamento de vieses.

A IA é uma das tecnologias mais disruptivas e promissoras da atualidade, podendo ser aplicada em qualquer segmento, todavia, sua adoção demanda padrões claros para garantir segurança, ética e eficácia. 

Nesse contexto, o NIST - National Institute of Standards and Technology apresenta um papel crucial na definição desses padrões, fornecendo orientações que moldam o futuro da IA. Inclusive, em fevereiro de 2024 o NIST apresentou sua versão 2.0, mostrando a necessidade de atualização constante quando se fala em tecnologia.

A nova versão traz a função "Governar", expandindo as diretrizes de implementação, trazendo praticidade e inclusão, o que a relaciona diretamente com a IA, que necessita de práticas de diversidade, inclusão, privacidade e justiça, a fim de evitar os vieses.

Nessa toada, o framework de segurança cibernética do NIST fornece orientações sobre como proteger sistemas de IA contra ameaças cibernéticas e assegurar a privacidade e a proteção dos dados pessoais utilizados por esses sistemas. 

Considerando a importância da interpretabilidade e a explicabilidade na IA, devido a criticidade envolvida, o NIST tem atuado ativamente em diretrizes para aumentá-las nos sistemas de IA, o que é importante para garantir a confiança dos usuários e a compreensão das decisões tomadas por esses sistemas.

A transparência na IA refere-se à capacidade de entender e explicar como os sistemas de IA tomam decisões ou produzem resultados, e é essencial pois facilita a detecção e mitigação do viés nos sistemas de IA e ajuda a garantir que os sistemas de IA sejam desenvolvidos e utilizados de maneira ética, respeitando os direitos e valores dos indivíduos afetados por suas decisões. O NIST desenvolve métricas e conjuntos de dados de referência para avaliar o desempenho de algoritmos de IA promovendo a transparência e a comparabilidade entre diferentes sistemas. 

O viés algorítmico refere-se à tendência de sistemas de inteligência artificial e algoritmos de aprendizado de máquina produzirem resultados ou tomarem decisões que são sistematicamente tendenciosos ou discriminatórios. O NIST está trabalhando para desenvolver padrões e diretrizes para mitigar o viés em sistemas de IA garantindo que esses sistemas sejam justos e imparciais em suas decisões.

Ainda, para promover a interoperabilidade entre diferentes sistemas de IA e facilitar sua integração em ecossistemas complexos, o NIST desenvolve padrões e protocolos que permitem a comunicação eficiente e segura entre esses sistemas.

Diante do exposto, fica claro que a utilização das diretrizes e padrões do NIST juntamente com a IA oferece uma base sólida para o desenvolvimento ético, seguro, robusto e confiável de sistemas de inteligência artificial, abordando questões importantes relacionadas à segurança cibernética, privacidade, interpretabilidade e riscos.