Um diagnóstico dos limites da IA na saúde

Segundo dados do AI Index Report 2023, produzido pela Stanford University, a área que recebeu o maior volume de investimentos privados em inteligência artificial (IA) em 2022 foi a de saúde, algo em torno de US$ 6,1 bilhões. Nos próximos dez anos, o investimento esperado no setor é de US$ 188 bilhões. A tecnologia, de acordo com a Organização Mundial da Saúde (OMS), é uma grande promessa para melhorar a prestação de serviços de saúde em todo o mundo.

Para discutir os desafios e as oportunidades da inteligência artificial na área de saúde, MIT Sloan Management Review Brasil e Pinheiro Neto Advogados coproduziram o Fórum Ao Vivo: Um diagnóstico dos limites da IA na saúde. Participaram do webinar, mediado por Gabrielle Teco, diretora-executiva da MIT Sloan Review Brasil, Camila Parise, sócia da área de life sciences & healthcare de Pinheiro Neto Advogados; e Nicole Recchi Aun, associada da área de life sciences & healthcare de Pinheiro Neto Advogados.

Oportunidades da inteligência artificial para saúde

A Organização Mundial da Saúde (OMS) coloca a IA como ferramenta importante para aprimorar os serviços em todo o mundo. Com sua capacidade de acelerar o diagnóstico de doenças, facilitar o atendimento clínico, fortalecer pesquisas médicas e catalisar o desenvolvimento de novos medicamentos, a IA apresenta uma gama de oportunidades transformadoras. No entanto, essa revolução não vem desprovida de desafios.

Um exemplo concreto desse impacto já pode ser observado no Brasil, onde diversos projetos estão em andamento, capacitando máquinas treinadas a interpretar imagens médicas, agilizando diagnósticos. A IA também encontrou sua aplicação no atendimento de emergência, otimizando o fluxo de pacientes e permitindo a intervenção mais rápida em situações críticas.

Nicole Aun enfatiza como essa tecnologia está sendo inserida na vida de médicos e pacientes. “Desde a otimização de processos administrativos e clínicos até a ampla aplicação na radiologia, ajuda com eficiência operacional em diversos níveis da área médica. Além disso, a IA está desempenhando um papel essencial no acompanhamento de condições crônicas, como o diabetes, permitindo uma identificação mais eficiente de sinais e padrões que podem ser cruciais para o paciente”, apontou.

Outro aspecto fundamental é a capacidade em realizar previsões ao identificar sinais de doenças que podem passar despercebidos pelo olhar humano. Recentemente, a IA demonstrou seu potencial revolucionário no campo da pesquisa e desenvolvimento de novos produtos médicos. Um exemplo é a criação de um medicamento para doença pulmonar crônica, no qual a inteligência artificial foi aplicada em todas as etapas, desde a descoberta da molécula até a formulação das combinações químicas. O resultado foi uma redução significativa no tempo e custos do estudo.

No entanto, em meio a todas essas promessas e conquistas, uma questão se destaca: a confiabilidade dos dados. A precisão das decisões tomadas por sistemas de IA depende da qualidade e integridade dos dados de entrada. A privacidade dos dados é outra preocupação, pois são informações sensíveis e pessoais. Garantir uma proteção adequada torna-se uma necessidade imperativa para garantir o uso ético e responsável da tecnologia na saúde.

Contribuições para a sustentabilidade do sistema de saúde

Considerando a complexidade do sistema de saúde brasileiro, que atende uma população de 211 milhões em mais de 5 mil municípios, a inteligência artificial figura como ferramenta de apoio. As advogadas destacaram que é importante ter em mente que este sistema abrange desde atenção básica até transplantes, sendo uma das maiores redes de saúde do mundo.

Camila Parise destacou que a IA pode desempenhar funções em todas as fases desse ecossistema. “Ela pode ainda otimizar o atendimento à população ao auxiliar diagnósticos mais precisos e tratamentos mais rápidos, ou seja, os pacientes não precisam retornar constantemente ao atendimento se receberem a resposta adequada desde o início”, comentou.

A IA também pode ser uma aliada na formulação de políticas públicas a partir da análise de dados específicos, o que permite direcionar ações do Ministério da Saúde; além de ser usada para auxiliar na definição de protocolos clínicos de tratamento, não apenas buscando o menor custo, mas também a eficácia para o paciente. “No centro disso tudo está ainda o empoderamento que a tecnologia traz ao paciente, tornando-o mais engajado em sua própria saúde. Quando ele está informado e envolvido, tende a aderir melhor aos tratamentos, atingindo melhores resultados”, disse.

Regulamentação dos ecossistemas do setor

As participantes do Fórum ao Vivo ainda destacaram a importância de integrar dados para facilitar o fluxo de informações entre médicos e atendimentos, além da necessidade de melhorar a educação digital para os pacientes, garantindo que eles compreendam melhor os benefícios e desafios da IA nessa área.

Outro ponto de atenção se refere à segurança dos dados. “Atualmente, a IA se baseia amplamente em aprendizado de máquina, o que amplia seu repertório e funcionalidades, facilitando a identificação de padrões que possuem muito valor enquanto informação. No entanto, essa dependência e coleta intensiva de dados aumenta o risco de violações de segurança e vazamento de conteúdo sensível”, disse Nicole Aun.

Compatibilizar as leis de proteção de dados com o avanço da IA é urgente e já houve manifestações em relação a essa necessidade. Neste contexto, transparência é fundamental e também se discute possibilidades de contestação e revisão dos resultados apresentados pela tecnologia, especialmente em algoritmos complexos e redes neurais densas, que tornam difícil entender o processo de tomada de decisão das máquinas.

A regulamentação europeia, embora pioneira, ainda enfrenta críticas e desafios. No Brasil, o ponto de partida é o Projeto de Lei 2338, que está em fase inicial. Esse projeto consiste em 45 artigos, estruturados de forma semelhante à regulamentação da Lei Geral de Proteção de Dados Pessoais, e aborda questões de direito dos usuários e alocação de responsabilidades. O viés nos algoritmos é outro tópico importante no debate, pois podem reproduzir preconceitos humanos.

Limites e desafios do uso da IA na saúde

Neste pilar, é importante abordar a questão da responsabilidade por erros médicos no contexto da IA, como pontuou Parise. “Considerando esse aspecto, a tecnologia deve ser vista como uma ferramenta complementar, não uma substituta para a função do médico. São necessários novos treinamentos para o manejo e uso correto da tecnologia, além de manter uma avaliação crítica no processo. De qualquer maneira, o contato pessoal entre médico e paciente não deve ser negligenciado em prol dos algoritmos”, comentou.

Em resumo, os pontos críticos incluem questões de vieses nos algoritmos, responsabilidade civil, privacidade dos dados e disfunções no mercado de trabalho e no sistema eleitoral. Por isso, Nicole Aun enfatizou a urgência da regulamentação desses sistemas, mas também reconheceu a complexidade de encontrar parâmetros e mecanismos que garantam um uso ético, responsável e seguro da IA na saúde.

Por fim, preocupa o uso inadequado do ChatGPT, uma ferramenta generativa. “É arriscado confiar excessivamente nessa plataforma, que pode apresentar erros e fornecer informações imprecisas. Especialmente no contexto médico, a IA não pode substituir a complexa relação entre médico e paciente, que leva em consideração fatores emocionais, histórico familiar e hábitos de vida. O uso indevido dessas ferramentas pode levar a decisões equivocadas e automedicação, representando riscos substanciais para a saúde”, disse Nicole Aun.

O futuro do uso da IA na saúde

No que se refere às tendências, as advogadas concordaram que humanização e educação devem ser os pilares centrais para um desenvolvimento inteligente da tecnologia, que de fato pode servir para otimizar os serviços médicos. Segundo Camila Parise, a humanização deve permanecer sendo uma prioridade na medicina. “Independentemente dos avanços tecnológicos, a vulnerabilidade das pessoas que enfrentam doenças requer um atendimento acolhedor e compassivo, que não pode ser substituído. Por outro lado, a tecnologia desempenha um papel importante ao aliviar algumas das pressões sobre os profissionais de saúde, permitindo-lhes dedicar mais tempo ao cuidado direto dos pacientes”, disse.

Nicole Aun acrescentou a importância da educação em relação ao uso dessas ferramentas na medicina. Afinal, qual será o lugar da tecnologia no sistema educacional como um todo? “No fim das contas, há uma necessidade de incorporar a educação sobre a IA nos currículos médicos. Isso não só garantiria uma integração adequada, mas também promoveria uma compreensão mais profunda das questões médicas e éticas envolvidas”, concluiu.”