Inteligência artificial na saúde: fato ou ficção?

Há alguns anos, pesquisadores da Universidade de Iowa, nos EUA, fizeram um experimento interessante: treinaram pombos para reconhecer imagens de câncer de mama. Quando as aves acertavam o diagnóstico, eram premiadas com milhos. Depois de algum tempo, os pombos, que têm uma acuidade visual muito superior à dos humanos, passaram a ter assertividade maior que médicos radiologistas e patologistas.

Isso significa que podemos substituir radiologistas por um pombal? Claro que não. Os pombos não tinham a menor ideia do que estavam fazendo, não sabiam o que era um câncer de mama nem o seu impacto na vida das pessoas. Os radiologistas e patologistas, embora acertem menos e custem mais caro, têm conhecimento profundo daquilo que diagnosticam e das suas implicações para os seres humanos.

A mesma coisa acontece com a inteligência artificial (IA) e as redes neurais. A primeira impressão para os que não estão familiarizados com o tema é que esses algoritmos replicam as redes neurais dos nossos cérebros, o que não é verdade.Ainda não compreendemos como nosso cérebro usa os neurônios e, portanto, não podemos simulá-los em computadores: as redes artificiais não funcionam da mesma maneira que nossos cérebros. Na verdade, elas são similares à maneira como os coeficientes são estimados em modelos de regressão: descobrem valores para os quais as predições do modelo são mais próximas do observado, sem compreender o que está sendo modelado.

São muito úteis, mas chamar essas fórmulas matemáticas de “inteligência artificial” é um exagero. Não são inteligentes, não entendem o que estão fazendo, não sabem o que estão manipulando e não replicam a maneira como os seres humanos pensam. Exatamente como os pombos.

Esse é o desafio da aplicação da IA em setores críticos, como na saúde. Existe um potencial enorme para o seu uso, mas a jornada é muito mais longa e árdua do que muitos imaginavam no início. Nos EUA, apesar de já existirem dezenas de algoritmos aprovados pela Food and Drug Administration (FDA), equivalente à Anvisa, apenas uma pequena parcela está realmente em uso.

Um artigo sobre o tema demonstrou que um dos principais problemas é a inconsistência dos resultados, com apenas 5,7% dos radiologistas que usam algoritmos de IA reportando que seus sistemas sempre funcionam, enquanto 94% classificam os resultados como erráticos. Na prática, aprendemos que treinar e testar um modelo em laboratório é bem diferente de colocá-lo em produção. Imaginou-se que seria relativamente fácil fazer com que os algoritmos analisassem imagens com precisão, mas na verdade sua assertividade depende das imagens de treinamento: quando saem de um ambiente de testes, com imagens de alta qualidade e dentro de cenários controlados, e caem no mundo real, com imagens menos nítidas e protocolos diferentes daqueles com que aprendeu, sua taxa de acerto cai significativamente.

Vida real X digital

A vida real é bem diferente do mundo fechado e teórico no qual os algoritmos usualmente são treinados. Em alguns casos, como nos sistemas para controle de veículos autônomos, encontramos o fenômeno da cauda longa, em que algumas situações ocorrem de forma dispersa, mas causam problemas sérios, inclusive acidentes. O trânsito é um cenário onde situações insólitas e inesperadas acontecem com frequência, mas dificilmente são replicadas em dados de treinamento.

Por isso ocorrem acidentes, como os que vêm acontecendo com os veículos da Tesla. Um exemplo: os automóveis autônomos não reconheceram caminhões de bombeiros ou ambulâncias parados na estrada, com suas luzes piscando, como obstáculos. O princípio básico de funcionamento dessas luzes é o acende e apaga, o que confundiu os algoritmos dos automóveis.

Os algoritmos de IA são modelos que criam representações matemáticas de pixels. São treinados avaliando milhares de imagens de carros que estejam rotulados como tal. Quando recebem uma nova foto de um automóvel, tentam fazer o casamento matemático com os modelos de pixels que já conhecem. Se a nova imagem corresponde a algo que ele entende como um carro, o algoritmo o reconhece como tal. Caso contrário, ele aponta o que mais se aproxima estatisticamente, que pode ser algo totalmente diferente, como uma tampa de lixeira, por exemplo.

Esse é outro aspecto dos sistemas de IA: não têm bom senso nem a capacidade de discernir uma imagem real de outra semelhante, mas totalmente diferente em significado. Não esqueçam que o algoritmo não tem a mínima ideia do que seja um carro, um gato, uma tampa de lixeira ou uma casa. Ele apenas responde baseado nas imagens com as quais aprendeu no ambiente de treinamento. Se, por acaso, todas as imagens de carro fossem rotuladas como gatos, ele apontaria, ao encontrar uma nova imagem de carro, que aquela imagem corresponde a um gato.

Esse é um aspecto perturbador na aplicação da IA em saúde. Um estudo publicado pelo NCBI (National Center for Biotechnology Information) dos EUA exemplifica situações em que erros podem ocorrer por simples falhas no registro de alguns poucos pixels em imagens médicas. Às vezes, um simples pixel derruba o algoritmo e torna o resultado desastroso. Assim, quando um único pixel altera seu padrão de reconhecimento, os algoritmos respondem com o que mais se assemelha a algo que eles já conhecem, por mais incoerente que pareça para nós.

Desafios da IA na saúde

O que estamos aprendendo é que a maioria dos desafios dos algoritmos não são aplicações técnicas da IA. Já existem muitos sistemas, mas a maior parte do processo de validação e implementação na prática médica é prejudicada pela dificuldade de acesso a grandes conjuntos de dados de qualidade. Além disso, os algoritmos de IA não operam no vácuo, precisando ser integrados aos demais sistemas de um hospital ou de um centro diagnóstico.

Assim, para apoiar radiologistas no seu trabalho cotidiano, os desenvolvedores das soluções de IA precisam criar, treinar, testar e buscar autorização dos órgãos reguladores para distribuir, apoiar e atualizar milhares de algoritmos. Além disso, as organizações de saúde e os médicos precisariam encontrar, avaliar, comprar e implementar vários algoritmos de muitos desenvolvedores e, em seguida, incorporá-los aos fluxos de trabalho existentes.

Para agravar o desafio, existe uma demanda voraz por dados dos modelos de computação cognitiva. A maioria dos algoritmos foi desenvolvida em configurações controladas, usando os conjuntos de dados disponíveis, muitas vezes limitados e sem correspondência com a vida real. Os modelos de IA podem ser frágeis, funcionando bem com dados do ambiente no qual foram desenvolvidos, mas erráticos ou incoerentes quando aplicados a dados gerados em outros locais, com diferentes populações de pacientes e protocolos.

Embora o setor de saúde seja um dos mais desejados para as companhias que produzem algoritmos de IA, existem diversas dificuldades para o desenvolvimento e implementação de soluções de computação cognitiva na medicina e em outras áreas correlatas. Como já descrevemos, é necessário ter uma grande quantidade de dados, de boa qualidade e que reflitam cenários diversos. Grandes empresas de tecnologia, como IBM, Apple e Google, estruturaram algoritmos e divisões de IA em saúde, mas não se prepararam adequadamente para a implementação na vida real e não tiveram o êxito que gostariam.

Isso significa que a IA não será aplicada na área de saúde? De maneira alguma. O interesse é imenso e um relatório recente mostrou que existem cerca de 350 mil aplicativos no setor. Só nos últimos 12 meses, foram 90 mil lançamentos, uma média de 250 novos aplicativos por dia. Claro que a imensa maioria não vai sobreviver, mas isso demonstra o interesse gigantesco pelo uso de IA e tecnologias digitais no setor.

Precisamos ser realistas e buscar a evolução da IA sem modismos ou ambições exageradas. Devemos enfrentar os desafios do aperfeiçoamento dos algoritmos, formar talentos de forma adequada e, principalmente, ter coerência nas propostas de projetos onde a IA possa ser aplicável na saúde.

Dessa forma, as soluções de computação cognitiva transformarão a saúde para melhor, com a possibilidade de criação de diversos produtos, serviços e negócios. Não deixemos eventuais frustrações transitórias apagar os diversos impactos benéficos da IA na saúde no longo prazo. É apenas uma questão de tempo, treinamento adequado e uso correto das soluções para que o setor sofra uma revolução muito positiva.

Artigo escrito em parceria com Cezar Taurion, consultor, mentor e membro do conselho de inovação de diversas empresas.“