Power and Prediction: The Disruptive Economics of Artificial Intelligence, de Ajay Agrawal, Joshua Gans e Avi Goldfarb - O que há de novidade, porque  importa e algumas reflexões

O que há de novidade?

"Power and Prediction: The Disruptive Economics of Artificial Intelligence", de Ajay Agrawal, Joshua Gans e Avi Goldfarb, é um livro interessante escrito por economistas com um novo olhar sobre o poder disruptivo da IA (Inteligência Artificial). Publicado oportunamente em novembro de 2022, justamente meses antes do ChatGPT assombrar o mundo com conversas interativas, coerentes e conscientes de contexto com seres humanos, alcançando 100 milhões de usuários nos primeiros dois meses.

Em seu primeiro livro, “Prediction Machines”, os autores expuseram as propriedades econômicas da IA. Neste eles se concentram na bases econômicas da construção de novos sistemas baseados em IA. Os autores utilizam o processo geral de adoção da eletricidade, uma tecnologia disruptiva que mudou o mundo, como estrutura para descobrir aspectos críticos dos desafios que estamos enfrentando no desenho e na adoção de novos sistemas de IA.

O livro está organizado em seis partes que evoluem gradualmente e se complementam, usando uma linguagem simples e conceitos alicerçados nos fundamentos econômicos. Leitores com formação em Ciência e Tecnologia, como eu,  podem sentir a narrativa às vezes complicada e pouco fluida; entretanto, faz todo sentido reiterar conceitos básicos quanta vezes seja necessário para assegurar uma base sólida de entedimento para as partes finais do livro.

Do meu ponto de vista, as questões vitais abordadas pelos autores ao longo do livro são:

Em essência, qual é a natureza disruptiva da IA?

Tudo o que fazemos em nossas vidas está repleto de decisões, atos que possuem dois componentes vitais e conectados: previsão e julgamento. Como seres humanos, estamos constantemente avaliando previsões (probabilidades de ocorrência de eventos) e os julgamentos (potenciais recompensas ou penalizações, dependendo das consequências desses eventos), independentemente se tomamos ou não uma decisão.

Em essência, o que a IA fornece sao previsões como forma de gerir a incerteza e criar valor através da melhoria na tomada de decisões. Se trata de um fenômeno perturbador porque dissocia vigorosamente a previsão do julgamento, fornecendo potencialmente melhores previsões (com maior precisão) a custos mais baixos.

A IA também pode desbloquear ou revelar novas decisões, criando um efeito cascata de mudanças naquilo que não é aparente. Estas novas decisões desafiam e contradizem regras existentes, procedimentos operacionais padrão previamente estabelecidos para esconder a incerteza e simplificar as decisões (como por exemplo sair de casa para ir ao aeroporto com 2,5 horas de antecedência do horário de decolagem do voo). O problema de desafiar regras existentes é que essas regras foram criadas para admitir e tolerar erros, e a sua substituição requer portanto considerações adicionais de redesenho completo que podem não valer a pena, a menos que uma mentalidade sistêmica seja aceita e utilizada.

Consideremos, por exemplo, as decisões compra de ingredientes para um restaurante num mercado local de alimentos. No caso de comprar ingredientes em excesso, certamente haverá desperdício. Se a quantidade adquirida for insuficiente, os clientes ficarão insatisfeitos com a indisponibilidade de um ou mais itens do menu além da perda das vendas correspondentes. Melhorar as previsões de consumo de ingredientes com base na demanda pode melhorar substancialmente a satisfação dos clientes e a rentabilidade do restaurante. No caso de uma adoção generalizada desse novo sistema pela maioria dos restaurantes dessa região, os distribuidores de alimentos que servem esse mercado serão fortemente impactados, causando altas flutuações nas encomendas recebidas, obrigando-os a mudar forçosamente suas regras vigentes de fornecimento (o chamado “Chicote IA”, de acordo com os autores). Por sua vez, a propagação de melhores previsões através de toda essa cadeia de valor poderá perturbar as redes nacionais e globais de produção e distribuição de alimentos.

"Power and Prediction: The Disruptive Economics of Artificial Intelligence", de Ajay Agrawal, Joshua Gans e Avi Goldfarb

Em última análise, a IA não fornece "insights", mas sim previsões que uma vez dissociadas de julgamento, podem ser disruptivas.

Por que tem demorado tanto a difusão generalizada de sistemas de IA?

Utilizando como padrão de referência o processo de adoção da eletricidade nos EUA, os autores argumentam que a concretização da promessa de uma tecnologia não acontece imediatamente após a demonstração de suas capacidades. Desde o dia em que Thomas Edison inventou a lâmpada foram necessários aproximadamente 40 anos para que a metade das famílias dos EUA chegassem a ter eletricidade. Esse período é chamado de “The Between Times” da adoção da eletricidade.

Ainda que o futuro da IA ​​seja incerto, o caminho para a obtenção de ganhos significativos de produtividade depende da compreensão do que ela pode oferecer. Tal como no processo de adoção da eletricidade, a IA permite três categorias de soluções:

• As soluções pontuais que melhoram partes isoladas de um sistema, proporcionando apenas eficiências locais. Nos primórdios da eletricidade, os empreendedores se concentraram na substituição dos motores a vapor por geradores de energia elétrica para reduzir isoladamente os gastos totais da fabrica com energia. Não houve impacto alguma no layout e na infraestrutura das fábricas.
• As soluções de aplicação melhoram por completo componentes ou partes interdependentes de um sistema, redesenhando-os para fornecer eficiências. Após a substituição dos motores a vapor, por exemplo, os empreendedores daquele momento exploraram oportunidades de instalar motores elétricos em cada máquina individualmente, com a vantagem de pagar apenas pela energia consumida somente quando utilizadas.
• As soluções sistêmicas melhoram a maneira como algo é feito em sua totalidade, maximizando a eficiência geral de um sistema. A eletricidade proporcionou a flexibilidade necessária a empreendedores como Henry Ford para otimizar o desenho geral da fábrica, organizando e concentrando ativos e trabalhadores em uma linha conforme as atividades de montagem, em vez de os concentrar tudo ao redor de um único motor a vapor.

Os autores do livro argumentam que a IA permite inovações sistêmicas, dissociando por completo a previsão do julgamento nas  decisões essenciais da cadeia de valor.  Isso acontece quando “as decisões são orientadas não por quem circunstancialmente faz ao mesmo tempo previsões e julgamentos, mas por quem está mais bem qualificado para fornecer julgamentos com base em  previsões de IA”. Estas soluções sistêmicas são difíceis de ser concretizadas, uma vez que remodelam indústrias como um todo, transferem poder entre pessoas e entidades, exigem mudanças organizacionais radicais e enfrentam naturalemente uma forte resistência.

"Power and Prediction: The Disruptive Economics of Artificial Intelligence", de Ajay Agrawal, Joshua Gans e Avi Goldfarb

Quais são os principais desafios e fatores criticos de sucesso para a criação de sistemas de IA?

Usando exemplos de vários setores da economia, como saúde pública, seguros, frete e transporte etc., os autores discutem os desafios envolvidos na adoção de aplicações e soluções com sistemas de IA.

As soluções pontuais de IA não requerem nenhuma reestruturação; são apenas novos recursos, melhorias para os sistemas existentes, e o seu retorno sobre o investimento (ROI) vem de reduções de custos locais com base em previsões aprimoradas. À medida que as oportunidades de redesenho e reestruturação são descobertas através da dissociação da previsão do julgamento, os mecanismos criados para gerir a incerteza precisam mudar, e as pessoas e as  organizações que deles se beneficiam podem não aceitar essas mudanças. Por exemplo, os autores mencionam que a antecedência com que as pessoas costumam sair de casa para chegar no aeroporto a tempo subir em aviões são determinados pela incerteza relacionadas ao trânsito mas vias de acesso e do tamanho das filas de segurança. Nessas condições, os modernos centros comerciais aeroportuários que se beneficiam desta incerteza podem se opor a qualquer solução de aplicação de IA que ajude os viajantes a gerenciarem melhor a incerteza e a deixar suas casas justo a tempo de embarcar em seus voos.

Economista George Stigler

As computadores não têm poder algum; eles podem apenas fornecer previsões melhoradas. Os humanos são os que fazem julgamentos, muitas vezes incorporados em algoritmos, e quem em última análise, tomam as decisões. Quando as soluções de IA desafiam o status quo, algumas das partes interessadas podem resistir à mudança. Esta situação pode ser exemplificada na resistência apresentada pelos políticos locais de Flint, Estado de Michigan, à solução de IA capaz de prever quais as tubulações de água contêm chumbo com muito mais precisão que qualquer outra pessoa ou mecanismo existente. Em última análise, foi a Justiça quem teve que decidir que o sistema de IA atendia ao bem maior de todos e que portanto deveria prevalecer, consolidando então a mudança dos direitos de decisão na troca dos encanamentos da cidade.

Para enfrentar de maneira efetiva os desafios de redesenhar por completo sistemas ou cadeias de valor, os autores propõem um método e uma ferramenta (“The AI ​​Systems Discovery Canvas”) que auxilia na identificação das decisões mínimas e essenciais que uma indústria deve tomar, considerando como premissa que estejam disponíveis máquinas de previsão de alta fidelidade. Esta ferramente também ajuda a avaliar como a adoção de previsões baseadas em IA pode levar à disrupção e como considerar portanto se é necessária uma inovação sistêmica.

Como fatores críticos de sucesso, há todo um capítulo sobre eles (“Acumulando Poder”) assim como varias outras seções distribuídas no livros. Em poucas palavras, os autores mencionam o seguinte:

• Algoritmos e dados melhores e mais baratos: ambos são necessários ao mesmo tempo; no entanto, a IA é diferente de outras tecnologias porque aprende. Quanto mais for usado, melhor. A adoção precoce da IA ​​não é necessariamente uma vantagem se a previsão não melhorar com o tempo. Dados de alta qualidade com avanços na aprendizagem algorítmica contínua podem substituir os competidores pioneiros.
• Previsões mínimas viáveis: as vantagens do pioneirismo dependem de quão boa a previsão precisa ser para se entrar em um mercado. Como o software não é um negócio de capital intensivo, o fator crítico de sucesso são dados, não apenas dados de treinamento, mas dados de feedback capazes de melhorar as previsões e dificultar a concorrência de outros. A vantagem não é lançar primeiro, mas sim lançar um sistema de IA capaz de coletar de dados de feedback e de se aperfeiçoar ao longo do tempo.
• Ciclos rápidos de feedback: melhorar a previsão com dados de feedback cria uma corrida entre concorrentes de mercado e amplifica os “custos endógenos de Sutton”, onde pode ser impossível alcançar um concorrente que lançou primeiro uma solução IA. Chegar cedo com um ciclo de feedback rápido pode ser uma vantagem considerável.
• Predição diferenciada: alguns sistemas IAs são atrativos para diferentes grupos ou empresas, portanto o conhecimento do domínio ou indústria de atuação é vital. Muitas IAs são diferenciadas apenas pela qualidade (um termo que requer uma definição precisa dependendo do caso de uso).

Curiosamente, os autores avançam muitos passos além das inquietações públicas sobre a falta de transparência e sobre os preconceitos sistémicos nos sistemas de IA. Num capítulo dedicado a este tópico (epílogo), eles defendem a utilização de sistemas de IA para detectar e corrigir a discriminação em previsões humanas e de máquinas. Eles argumentam que detectar e medir a discriminação em máquinas é simples, mas fazer o mesmo com humanos é muito difícil.

Sendhil Mullainathan, “Biased Algorithms Are Easier to fix Than Biased People.” New York Times, December 2019

Por que isso importa?

Os recentes avanços em IA Generativa, precisamente nos Modelos Grandes de Linguagem (Large Language Models ou LLMs), têm revolucionado o campo do processamento de linguagem natural e levado o “AI Hype” ao extremo. Os LLMs têm o potencial de se tornarem a espinha dorsal que apoia o crescimento e o desenvolvimento de inúmeras inovações e indústrias. A sua versatilidade e adaptabilidade os torna ferramentas poderosas para a inovação e a resolução de problemas. Ao mesmo tempo, há um crescente desconforto sobre se o comportamento destes sistemas pode ser transparente, explicável, imparcial e responsável.

Como simples cidadãos precisamos saber como as nossas vidas serão impactadas com a utilização generalizada da IA, desenvolver nossas próprias opiniões,  e conduzir diálogos produtivos entre todos nós, nossos líderes, legisladores e líderes políticos sobre a maximização dos seus benefícios e a mitigação dos riscos associados.

Livros como este, escritos por especialistas de outras áreas do conhecimento enriquecem o diálogo e estimulam a reflexão do público em geral que deseja uma explicação simples e de bom senso sobre o que são, como funcionam e como podem (e já estão) impactando a suas vidas.

Este ponto de vista particular de economistas e professores universitários fortemente empenhados em fomentar o empreendedorismo, desconstrói a propaganda tecnológica ("AI Hype") em componentes “enfadonhos” e triviais, expondo as suas propriedades essenciais relacionadas aos negócios e a sociedade em geral.

Algumas reflexões

É reconfortante encontrar padrões de referência capazes de articular o impacto e os processos subjacentes de adoção de tecnologias disruptivas. Duvido que já tenhamos entendido o real potencial e a essência da IA, que prefiro, por vários motivos, chamar apenas de “aprendizado de máquina” ou machine learning.

Também não sabemos quanto tempo o “The Between Times” levará para esta tecnologia; no entanto, precisamos desesperadamente de novas mentalidades, políticas, leis e regulamentos para lidar com ela. Deepfakes, notícias falsas e sistemas tendenciosos são abundantes.

Como dizem os autores, “o futuro da IA ​​é incerto”, mas o seu impacto já se sente presente em nosso dia a dia.