Especialistas cobram rastreabilidade da IA em remédios

Inteligência Artificial

Pesquisadores destacam a importância de transparência e responsabilidade nas decisões com IA na indústria farmacêutica.

Leia também: Jailbreak no PS5 libera 11,4 GB RAM e turbo para IA local

Especialistas da Universidade do Chile e do Centro Nacional de Sistemas de Informação em Saúde do Chile defendem que toda decisão tomada com apoio de inteligência artificial na indústria farmacêutica tenha responsável claramente identificado, seja rastreável e se baseie em dados íntegros, sob risco de afetar diretamente a segurança de pacientes e a qualidade dos medicamentos.

O que especialistas dizem sobre a intervenção da IA na indústria farmacêutica?

Para Antonio Morris, químico farmacêutico e professor adjunto da Faculdade de Ciências Químicas e Farmacêuticas da Universidade do Chile, o ponto central é que o uso de algoritmos não pode tornar invisível quem decide, nem em que se baseou. “Um medicamento não é apenas parte de uma cadeia de custódia; é uma cadeia de decisões”, afirma.

Na prática, isso vale para autorizar a liberação de um lote, avaliar um desvio na fabricação ou investigar um sinal de segurança. Em todos esses casos, a IA pode sugerir caminhos, mas não substituir a responsabilidade técnica. “Um algoritmo pode fazer sugestões, mas a responsabilidade continua sendo do diretor técnico e da unidade de qualidade”, diz Morris.

Sergio Lavandero, professor titular das faculdades de Ciências Químicas e Farmacêuticas e de Medicina da Universidade do Chile e ganhador do Prêmio Nacional de Ciências Naturais do Chile em 2022, liga a discussão diretamente ao impacto sobre o paciente. Cada decisão sobre produção, armazenamento, temperatura ou expedição pode interferir na qualidade e na disponibilidade do remédio.

Para ele, não basta saber por onde o produto passou; é preciso entender por que certos caminhos foram escolhidos. “A rastreabilidade da decisão é tão fundamental quanto a do produto”, ressalta. E adverte que a adoção de sistemas inteligentes não pode ser guiada apenas por corte de gastos: “Delegar decisões críticas exige qualidade e supervisão, não apenas otimização de custos”.

Félix Liberona, subdiretor executivo do Centro Nacional de Sistemas de Informação em Saúde do Chile (CENS), acrescenta que a utilidade da IA depende diretamente da base sobre a qual opera. “A inteligência artificial pode ser uma grande ferramenta para a indústria farmacêutica, mas sua eficácia depende da qualidade, integridade e disponibilidade dos dados que utiliza”, afirma.

Ele alerta para um problema recorrente: o mesmo medicamento pode aparecer registrado de formas diferentes em sistemas de laboratórios, distribuidores e farmácias. “Se um mesmo medicamento for registrado de maneiras diferentes entre laboratórios, distribuidores e farmácias, um algoritmo pode gerar conclusões equivocadas e afetar decisões críticas”, explica Liberona, defendendo padrões de informação, interoperabilidade entre sistemas e equipes treinadas para interpretar resultados.

Quem é responsável quando a IA intervém em um medicamento?

Quando um sistema de IA influencia decisões sobre um medicamento, os especialistas apontam que a responsabilidade continua sendo humana, concentrada no diretor técnico e na unidade de qualidade da empresa farmacêutica. A máquina pode recomendar, mas quem responde perante autoridades regulatórias e pacientes é quem assina a decisão.

Segundo Antonio Morris, o primeiro passo é definir o que será considerado uso crítico de IA — por exemplo, algoritmos que recomendam liberar ou reter lotes, reajustar parâmetros de produção ou priorizar investigações de segurança. Para esses casos, ele propõe exigências como decisões documentadas e passíveis de auditoria, validação prévia de cada sistema algorítmico e a indicação formal de um responsável.

A ideia é que, em uma eventual inspeção ou investigação, seja possível reconstruir como a conclusão foi alcançada: quais dados entraram no sistema, que tratamento receberam, qual foi a recomendação algorítmica e quem a aceitou, adaptou ou rejeitou. Sem essa trilha, argumentam os especialistas, não há como garantir transparência nem atribuir responsabilidade em caso de falhas.

Entenda o contexto

O debate ganha força às vésperas do FarmaQIA Summit 2026, que acontece nesta semana, nos dias 20 e 21 de outubro, em Santiago, com participação presencial e transmissão online. Organizado pela Fundação OCIDES, o encontro vai reunir profissionais da indústria, pesquisadores e reguladores para discutir manufatura farmacêutica, qualidade, regulação e gestão de riscos em um cenário cada vez mais automatizado.

No centro da discussão está como incorporar a inteligência artificial em rotinas de pesquisa, desenvolvimento, manufatura e controle de qualidade sem abrir mão da segurança sanitária nem da confiança pública. As recomendações esperadas incluem critérios para validar algoritmos antes de colocá-los em uso, modelos de documentação e auditoria de decisões e formas de distribuir responsabilidades entre diretores técnicos, áreas de qualidade e equipes de TI.

Para Antonio Morris, Sergio Lavandero e Félix Liberona, a condição mínima é que toda recomendação algorítmica possa ser examinada, e que cada decisão baseada nela tenha um responsável claro, identificado e rastreável nos registros da empresa. A expectativa é que o debate no FarmaQIA Summit 2026 ajude a orientar futuros ajustes regulatórios e práticas internas das farmacêuticas na região.

Fonte: matéria original