COLUNAS

  1. Home >
  2. Colunas >
  3. IA em Movimento >
  4. Antifragilidade e os desafios da IA

Antifragilidade e os desafios da IA

Fernando Picasso e Fabio Rivelli title=Fabio Rivelli

terça-feira, 19 de julho de 2022

Atualizado às 11:22

Qual a relação entre a teoria  da antifragilidade de Nassim Taleb e a Inteligência Artificial? Taleb é um polêmico ensaista, filósofo e matemático, que entende a volatilidade do mercado financeiro como ninguém, porque atuou nele por décadas, com sucesso. É criador do best seller "Cisne Negro", que criou um conceito ligado a um fenômeno raro, imprevisível e com consequências extremas, caso da covid-19 e do 11 de setembro. Também criou um conceito que estende a ideia de resilência corporativa - a antifragilidade.

O conceito de antifragilidade¹ vem destronar o conceito arraigado de resiliência do mundo corporativo. Da Física às Ciências Humanas, o conceito da resiliência veio evoluindo para explicar como as pessoas e as organizações conseguem superar situações adversas, de intenso estresse e imprevisibilidade. Para ser resiliente é preciso saber resistir, superar e até vencer situações adversas, como crises climáticas, crimes cibernéticos, ameaças pandêmicas, falha em cadeias de suprimentos e outras. A antifragilidade estende o conceito de resiliência discutindo como as organizações e pessoas podem usar situações adversas, aprender com elas e se recuperarem melhores do que estavam antes.

Etimologicamente, a palavra resiliência vem do latim "resilio", que significa recuar, voltar, romper. Inicialmente, foi empregada como um fenômeno da física, que se referia à propriedade de alguns materiais de voltar à forma original, mesmo depois de terem sido submetidos à tensão e à pressão, demonstrando resiliência ou processo de resiliência. Guarda, portanto, a ideia de qualidades como flexibilidade, elasticidade etc.

Ao ser um conceito incorporado pelas ciências humanas, a resiliência passou a se referir a indivíduos que conseguiam enfrentar adversidades de forma positiva, enfrentando conflitos de forma construtiva e mantendo o equilíbrio. Já Taleb entende que é possível ir além da resiliência pela transformação e disrupção através do caos. . A antifragilidade trata-se de um conceito para transpor a adversidade, a incerteza e a volatilidade das crises para se transmutar em um profissional ou uma empresa melhor. É como tirar lições do fracasso.

Daí a proximidade com a IA - Inteligência Artificial, que nada tem de linear. O processo da machine learning tem grande proximidade como a teoria da antifragilidade porque se abre para inúmeras soluções possíveis. É o caso de se colocar uma máquina contra outra para executar determinado procedimento, na busca de um objetivo.  

A etmologia da palavra "frágil" deriva da palavra latina fragilis,  significando pouca resistência, delicadez, sem solidez. Taleb explica como construiu o conceito: "Algumas coisas se beneficiam de choques; prosperam e crescem quando expostos à volatilidade, aleatoriedade, desordem e estressores e aventura amorosa, risco e incerteza. Ainda, apesar da onipresença do fenômeno, não há palavra para o exato oposto de frágil. Vamos chamá-lo de antifrágil. A antifragilidade está além da resiliência ou robustez. O resiliente resiste a choques e continua o mesmo; o antifrágil fica melhor. Esta propriedade está por trás de tudo que mudou com o tempo: evolução, cultura, ideias, revoluções, sistemas políticos, inovação tecnológica, sucesso cultural e econômico, sobrevivência corporativa, boas receitas (digamos, canja de galinha ou bife tártaro com uma gota de conhaque), a ascensão das cidades, culturas, sistemas jurídicos, florestas equatoriais, resistência bacteriana ... até mesmo a nossa existência como espécie neste planeta ".

A antifragilidade, segundo Taleb, nos permite lidar com o desconhecido e é cheia de interdependências. Por exemplo, se o número de funcionários de uma determinada fábrica for dobrado, não se obterá o dobro da produção inicial e dois finais de semana na Filadelfia não são melhores do que um único. "Sistemas complexos feitos pelo homem tendem a desenvolver cascatas e cadeias de reações descontroladas que diminuem, até mesmo eliminam, a previsibilidade e causam eventos desproporcionais", explica em sua obra.

As respostas que diversas organizações dão em momentos de crise, como a causada pela covid-19, mitigando efeitos negativos e possibilitando a retomada das atividades de forma melhor ao que se tinha antes da crise, denota a antifragilidade de uma organização, ou seja, sua capacidade de se reinventar a despeito de eventos adversos, minimizando impactos inesperados, aprendendo e voltando a operar mais fortes do que antes. "A antifragilidade está além da resiliência ou da robustez. O resiliente resiste aos choques e permanece o mesmo; o antifrágil melhora", ensina Taleb.

O conceito é similar ao processo pelo qual passa a estrutura muscular de uma pessoa iniciante na atividade física da musculação. No seu primeiro dia, ela consegue levantar determinado peso, pois seus músculos não estão acostumados, nem com os movimentos, nem com a carga. Ao longo do segundo e terceiro dias, essa pessoa sente muitas dores como consequência do rompimento das fibras musculares ocasionadas pelo exercício. Nesse processo, os músculos se recuperarão fortalecendo sua estrutura para que os mesmos movimentos e cargas não mais ocasionem rompimento de suas fibras. Dessa forma, se essa pessoa estimula frequentemente seus músculos, fornece os nutrientes adequados na janela de tempo correta, dorme bem e tem uma boa saúde, os músculos se recuperam fortalecendo sua estrutura. 

O conceito de antifragilidade se aplica à IA enquanto estivermos tratando da tecnologia do aprendizado autorregulado da máquina, sem interferência do fator humano, que poderia intervir nos dados/algoritmos iniciais e gerar falhas na saída. É um sistema próximo à teoria do caos, criada por Edward Lorenz, no qual temos flexibilidade, adaptação, transformação, disrupção e antifragilidade. 

Por exemplo, uma empresa de serviços de streaming muito popular no país usa o conceito de chaos monkey para identificar vulnerabilidades e melhoras seus sistemas operacionais. Basicamente, estressa propositalmente seu sistema, verifica onde há pontos fracos e implementa medidas para fortalecer o sistema como um todo. Nesse sentido, os mecanismos de inteligência artificial tem sido usados para continuamente expor fragilidades de sistemas para melhorá-los através do aprendizado gerado pelo caos (ver Canonico et al., 2020).

______

TALEB, Nassim N. Antifragile: Things That Gain from Disorder. New York: Random House, 2012. 

2 Fernando Picasso é doutor em administração de empresas pela FGV, professor em gestão da cadeia de suprimentos no Insper, pesquisador nas áreas de risco e resiliência em cadeias de suprimentos e sustentabilidade em cadeias de suprimentos e consultor em gestão da cadeia de suprimentos.