Por que a inteligência artificial precisa entender as consequências

Neil Savage é um escritor freelance em Lowell, Massachusetts.

Você também pode procurar por este autor no PubMed Google Scholar

Crédito: Neil Webb

Você tem acesso total a este artigo por meio de sua instituição.

Quando Rohit Bhattacharya iniciou seu doutorado em ciência da computação, seu objetivo era construir uma ferramenta que pudesse ajudar os médicos a identificar pessoas com câncer que responderiam bem à imunoterapia. Essa forma de tratamento ajuda o sistema imunológico do corpo a combater tumores e funciona melhor contra crescimentos malignos que produzem proteínas às quais as células imunológicas podem se ligar. A ideia de Bhattacharya era criar redes neurais que pudessem traçar o perfil da genética do tumor e do sistema imunológico de uma pessoa e, em seguida, prever quais pessoas provavelmente se beneficiariam com o tratamento.

Mas ele descobriu que seus algoritmos não estavam à altura da tarefa. Ele conseguiu identificar padrões de genes correlacionados com a resposta imune, mas isso não foi suficiente1. "Eu não poderia dizer que esse padrão específico de ligação, ou essa expressão específica de genes, é um determinante causal na resposta do paciente à imunoterapia", explica ele.

Parte do Nature Outlook: Robótica e inteligência artificial

Bhattacharya foi frustrado pelo antigo ditado de que correlação não é igual a causalidade – um obstáculo fundamental na inteligência artificial (IA). Os computadores podem ser treinados para detectar padrões nos dados, mesmo padrões tão sutis que os humanos podem não perceber. E os computadores podem usar esses padrões para fazer previsões – por exemplo, que um ponto em um raio X do pulmão indica um tumor2. Mas quando se trata de causa e efeito, as máquinas geralmente ficam perdidas. Eles carecem de uma compreensão de bom senso de como o mundo funciona que as pessoas têm apenas por viver nele. Programas de IA treinados para detectar doenças em um raio X do pulmão, por exemplo, às vezes se desviam ao se concentrar nas marcações usadas para rotular o lado direito da imagem3. É óbvio, pelo menos para uma pessoa, que não há relação causal entre o estilo e a colocação da letra 'R' em um raio-X e os sinais de doença pulmonar. Mas sem esse entendimento, quaisquer diferenças em como essas marcações são desenhadas ou posicionadas podem ser suficientes para direcionar uma máquina para o caminho errado.

Para que os computadores realizem qualquer tipo de tomada de decisão, eles precisarão entender a causalidade, diz Murat Kocaoglu, engenheiro elétrico da Purdue University em West Lafayette, Indiana. "Qualquer coisa além da previsão requer algum tipo de compreensão causal", diz ele. "Se você deseja planejar algo, se deseja encontrar a melhor política, precisa de algum tipo de módulo de raciocínio causal."

A incorporação de modelos de causa e efeito em algoritmos de aprendizado de máquina também pode ajudar máquinas autônomas móveis a tomar decisões sobre como navegar no mundo. "Se você é um robô, quer saber o que acontecerá quando der um passo aqui com este ou aquele ângulo, ou se empurrar um objeto", diz Kocaoglu.

No caso de Bhattacharya, era possível que alguns dos genes que o sistema destacava fossem responsáveis ​​por uma melhor resposta ao tratamento. Mas a falta de compreensão da causalidade significava que também era possível que o tratamento estivesse afetando a expressão do gene – ou que outro fator oculto estivesse influenciando ambos. A solução potencial para esse problema está em algo conhecido como inferência causal – uma maneira formal e matemática de verificar se uma variável afeta outra.

O cientista da computação Rohit Bhattacharya (costas) e sua equipe no Williams College em Williamstown, Massachusetts, discutem a adaptação do aprendizado de máquina para inferência causal. Crédito: Mark Hopkins

A inferência causal tem sido usada há muito tempo por economistas e epidemiologistas para testar suas ideias sobre causalidade. O Prêmio Nobel de Ciências Econômicas de 2021 foi para três pesquisadores que usaram inferência causal para fazer perguntas como se um salário mínimo mais alto leva a um emprego mais baixo ou qual o efeito de um ano extra de escolaridade na renda futura. Agora, Bhattacharya está entre um número crescente de cientistas da computação que estão trabalhando para combinar causalidade com IA para dar às máquinas a capacidade de lidar com essas questões, ajudando-as a tomar decisões melhores, aprender com mais eficiência e se adaptar às mudanças.