Como IA prevê riscos em hospitais e desafia ética médica hoje

Inteligência Artificial

Sistemas inovadores antecipam eventos adversos, buscando eficiência hospitalar enquanto enfrentam desafios éticos e regulatórios.

Leia também: Amazon lança Multi-Turn RL no SageMaker para IA otimizar tarefas

Pesquisadores da Eindhoven University of Technology e do Catharina Hospital, na Holanda, detalham nesta semana como sistemas de inteligência artificial estão sendo treinados para prever eventos adversos em hospitais, do efeito colateral de um remédio a traumas psicológicos e mortes, com potencial de reduzir custos em saúde entre 5% e 10%, mas sob uma série de desafios técnicos, éticos e regulatórios.

De que forma a inteligência artificial pode ajudar na decisão clínica?

A inteligência artificial entra na rotina hospitalar como um sistema de alerta precoce: a partir de grandes volumes de dados clínicos, consegue apontar quais pacientes têm maior risco de sofrer eventos adversos em unidades de terapia intensiva, centros cirúrgicos e setores de alto risco, permitindo intervenções antes que o quadro se agrave.

No trabalho assinado pelo Biomedical Diagnostics Lab, do Departamento de Engenharia Elétrica da Eindhoven University of Technology, em parceria com o setor de Anestesiologia do Catharina Hospital, os modelos de aprendizado de máquina usam informações que já fazem parte do prontuário eletrônico — sinais vitais, exames laboratoriais, histórico de medicamentos, relatos de dor, evolução pós-operatória.

Com isso, algoritmos conseguem identificar padrões sutis que antecedem problemas como queda de pressão súbita após uma cirurgia, reações graves a medicamentos, risco aumentado de quedas e até indícios de sofrimento psicológico prolongado. A promessa é apoiar o médico na tomada de decisão, sem substituí-lo.

Segundo os autores, a simplificação de processos e a antecipação de complicações com IA podem gerar uma redução de custos em saúde entre 5% e 10%. “A simplificação de processos com IA pode reduzir custos em saúde entre 5% e 10%”, afirmam os pesquisadores do Biomedical Diagnostics Lab.

Como os modelos são treinados e testados

Para chegar a esse ponto, a base é um trabalho pesado de engenharia de dados. Hospitais e centros de pesquisa coletam e organizam grandes bancos de dados clínicos, filtrando inconsistências, padronizando termos e removendo informações que possam identificar pacientes.

Na etapa de treinamento, os cientistas aplicam técnicas de aprendizado de máquina e se preocupam em mitigar vieses já na origem. Entre as estratégias citadas estão reamostragem (para equilibrar classes pouco representadas), aumento de dados (data augmentation, que cria variações artificiais de exemplos reais) e validação externa, ou seja, testar cada modelo em hospitais e populações diferentes daquelas em que ele foi desenvolvido.

Outro ponto crítico é evitar que o algoritmo aprenda “de menos” (subajuste) ou “de mais” (sobreajuste, quando ele decora o banco de dados original e falha ao generalizar para novos casos). Para isso, os pesquisadores lançam mão de técnicas de regularização, que limitam a complexidade do modelo e forçam melhor capacidade de generalização.

Antes de qualquer uso rotineiro, os sistemas passam por baterias de testes em populações hospitalares específicas, medindo acurácia, número de alarmes falsos e impacto real na prática clínica. Só então podem ser integrados a sistemas de apoio à decisão, em geral como alertas na tela do prontuário eletrônico ou dashboards para equipes de UTI e anestesia.

Entenda o contexto

A integração de IA à saúde ganha velocidade com a expansão do chamado big data clínico — grandes bases estruturadas de exames, imagens, sinais vitais, internações e desfechos. Áreas como terapia intensiva, radiologia e patologia já concentram enormes quantidades de informação, o que torna esses setores terreno fértil para modelos preditivos.

Ao mesmo tempo, empresas de tecnologia e hospitais investem pesado em projetos conjuntos para desenvolver ferramentas próprias de apoio à decisão médica. A discussão deixou de ser apenas técnica e entrou no radar de organismos internacionais, que veem riscos de amplificação de desigualdades se a IA for treinada em dados pouco representativos.

“A OMS priorizou big data e IA como temas centrais em ética da saúde, destacando responsabilidade e falta de empatia por computadores”, reforça a Organização Mundial da Saúde ao comentar as diretrizes recentes sobre o uso dessas tecnologias.

Vieses e limites dos dados clínicos

Um dos alertas mais fortes dos pesquisadores de Eindhoven e do Catharina Hospital diz respeito aos vieses na formação das bases de dados. Se um hospital realiza muitos procedimentos de cardiologia de alto risco e quase nenhuma cirurgia oncológica, por exemplo, um modelo treinado ali pode superestimar riscos cardíacos e subestimar riscos oncológicos ao ser levado para outra instituição.

Diferenças de perfil populacional, falta de registros de determinados grupos e escassez de dados de minorias podem levar o software a decisões injustas ou simplesmente erradas. Em predição de eventos adversos, isso significa classificar como “baixa prioridade” justamente quem mais precisa de vigilância.

Por isso, o estudo insiste em medidas como: curadoria sistemática da base, inclusão de dados de múltiplos centros, análise contínua de desempenho por subgrupos (idade, gênero, origem étnica, comorbidades) e re-treinamento periódico para acompanhar mudanças na população atendida.

Transparência e confiança nos algoritmos

Se o sistema acerta o prognóstico, mas ninguém entende por quê, a confiança desaba. A equipe holandesa chama atenção para a “caixa-preta” de muitos modelos atuais e defende algoritmos mais explicáveis, capazes de mostrar quais variáveis pesaram para indicar um paciente como de alto risco.

“A falta de interpretabilidade em modelos de IA gera problemas de confiança e transparência, exigindo algoritmos transparentes e testes rigorosos antes da implementação”, afirmam os pesquisadores do Biomedical Diagnostics Lab e de Anestesiologia do Catharina Hospital.

Na prática, isso significa priorizar técnicas que permitam destacar fatores de risco — como queda recente de saturação de oxigênio, combinação específica de medicamentos ou alteração súbita de exames — em vez de apenas apresentar um escore numérico. A explicação clara também é vista como ferramenta de ensino, ajudando médicos mais jovens a compreenderem melhor trajetórias de deterioração clínica.

Responsabilidade, ética e risco de perda de habilidades

À medida que as previsões se tornam mais presentes nas telas, aumenta o risco do chamado deskilling: profissionais se acostumarem aos alertas automáticos e perderem a sensibilidade clínica construída à beira do leito. O estudo reforça que a IA deve ser vista como apoio, e não substituto, da avaliação humana.

Pesquisadores e OMS convergem em um ponto: responsabilidade e empatia seguem nas mãos das pessoas. A máquina não sente a dor do paciente nem compreende seu contexto social; ela apenas calcula probabilidades a partir de dados históricos. A tomada de decisão final precisa considerar fatores que não cabem nos algoritmos, como preferências do paciente e situações familiares.

Essa discussão se encaixa em um movimento maior de revisão de marcos regulatórios. Autoridades de saúde e agências reguladoras discutem como classificar esses sistemas, quais evidências exigir antes da liberação, que tipo de monitoramento contínuo será obrigatório e como dividir a responsabilidade entre desenvolvedores, hospitais e equipes clínicas diante de um erro grave.

Principais desafios para garantir responsabilidade na IA

Os autores do estudo apontam que o maior obstáculo hoje não está na capacidade matemática dos modelos, mas em como assegurar o uso responsável desses sistemas. Isso passa por cinco frentes principais.

A primeira é a qualidade e representatividade dos dados: bases incompletas ou distorcidas levam a previsões falhas, o que em saúde pode significar riscos diretos ao paciente. A segunda é a transparência: modelos opacos dificultam auditoria, contestação de resultados e aprendizado clínico.

A terceira frente é a validação externa contínua. Um modelo aprovado em um hospital pode perder precisão ao ser transferido para outro, com protocolos e perfis diferentes. Por isso, recomenda-se monitoramento permanente de desempenho, com possibilidade de suspensão se métricas caírem.

A quarta é a governança interna nos hospitais, com comitês multidisciplinares de ética, TI e clínica para avaliar cada projeto de IA, definir critérios de uso, registrar quem decidiu o quê e estabelecer protocolos claros para contestação das sugestões do sistema.

Por fim, a quinta frente é regulatória: ajustes de regras precisam acompanhar a evolução tecnológica, definindo padrões mínimos de explicabilidade, trilhas de auditoria, proteção de dados e mecanismos de responsabilização em caso de dano ao paciente.

Próximos passos em pesquisa e regulação

Os pesquisadores defendem que novos modelos de IA para predição de eventos adversos só avancem para uso rotineiro após validação externa em múltiplos contextos hospitalares, inclusive em países e sistemas de saúde diferentes. A recomendação vale tanto para UTIs quanto para anestesiologia, farmacologia clínica e gestão hospitalar.

Ao mesmo tempo, sociedades médicas e órgãos reguladores trabalham em diretrizes para padronizar requisitos mínimos de testes, métricas e relatórios de desempenho, em linha com as preocupações éticas levantadas pela OMS sobre responsabilidade e impacto em grupos populacionais diversos.

A expectativa é que, com uma integração cuidadosa entre tecnologia e avaliação humana, a IA se torne aliada para aumentar a segurança do paciente e a eficiência dos hospitais, sem abrir mão da transparência nem da responsabilidade que a prática médica exige.