Inteligência Artificial na Saúde: inovação também precisa de gestão?

À medida que novas tecnologias passam a apoiar decisões clínicas e diagnósticas, segurança, validação, controle e responsabilidade tornam-se parte da gestão da qualidade.

A inteligência artificial já faz parte da transformação da saúde. Ferramentas capazes de analisar grandes volumes de dados, reconhecer padrões, apoiar diagnósticos e auxiliar profissionais na tomada de decisão estão ampliando as possibilidades de hospitais, clínicas e laboratórios.

Os benefícios são significativos. Mas, à medida que essas tecnologias passam a participar de processos que podem impactar diretamente o cuidado ao paciente, surge uma questão essencial: nossos sistemas de gestão estão evoluindo na mesma velocidade que nossas tecnologias?

Inovar não significa apenas incorporar novas ferramentas. Significa também compreender seus riscos e garantir que sejam utilizadas de forma segura, adequada e eficaz.

Quando a tecnologia participa do diagnóstico

Na medicina diagnóstica, essa realidade já pode ser observada em laboratórios que utilizam ferramentas computacionais e bases de dados como apoio à interpretação de variantes genéticas. Esses recursos auxiliam na classificação de alterações encontradas no genoma, no cruzamento de informações e na identificação de evidências relevantes para a interpretação dos resultados.

Embora essas tecnologias ampliem significativamente a capacidade analítica, o resultado fornecido por um sistema não deve ser interpretado de forma isolada. É necessário compreender a origem das informações utilizadas, os critérios de classificação, as limitações da ferramenta e, principalmente, manter a análise crítica do profissional responsável.

Em áreas como a genética, novas evidências científicas podem modificar a interpretação de determinadas variantes ao longo do tempo. Por isso, controlar a atualização das informações utilizadas torna-se tão importante quanto validar inicialmente as ferramentas que apoiam o diagnóstico.

Isso traz novas perguntas para a gestão: como a ferramenta foi validada? As informações utilizadas permanecem atualizadas? Como mudanças nos critérios de classificação são acompanhadas? E qual pode ser o impacto de uma informação inadequada sobre a interpretação final do exame?

Essas questões demonstram que incorporar novas tecnologias ao diagnóstico não é apenas uma decisão tecnológica. É também uma decisão de gestão da qualidade.

Testar, validar e controlar

A ISO 7101 incorpora essa preocupação ao tratar das tecnologias emergentes nas organizações de saúde.

Em seu item 8.6, a norma estabelece que a utilização de novas tecnologias deve ser acompanhada da avaliação e mitigação de riscos, além da definição de processos que assegurem seu uso seguro, adequado e eficaz.

Quando a inteligência artificial é utilizada na tomada de decisões relacionadas ao cuidado ou ao diagnóstico, a norma atribui à Alta Direção a responsabilidade de assegurar que esses processos sejam testados, validados e controlados.

A adoção de uma tecnologia, portanto, não termina quando ela é implementada. Seu desempenho precisa ser conhecido e acompanhado ao longo do tempo.

Validar antes de utilizar é essencial. Controlar depois de implementar também.

Inteligência artificial também é uma questão de segurança

Os riscos relacionados ao uso da inteligência artificial não se limitam a uma eventual falha da tecnologia. A qualidade dos dados, as condições em que a ferramenta foi validada e a forma como seus resultados são interpretados também podem interferir em seu desempenho.

Por isso, não basta perguntar se a tecnologia funciona. É necessário avaliar se continua adequada à sua finalidade e se seus resultados permanecem confiáveis no contexto em que está sendo utilizada.

Essa discussão está diretamente relacionada à segurança do paciente. Quanto maior a influência de uma tecnologia sobre decisões clínicas ou diagnósticas, maior deve ser a capacidade da organização de compreender, monitorar e controlar sua utilização.

A tecnologia pode ampliar a capacidade de análise dos profissionais, mas precisa estar inserida em processos que estabeleçam responsabilidades, monitorem resultados e permitam identificar riscos e desvios.

A experiência também precisa ser avaliada

Outro aspecto relevante do item 8.6 da ISO 7101 é a experiência do usuário.

Ao incorporar novas tecnologias ao cuidado, a organização também deve avaliar como elas são utilizadas e transformar essas informações em oportunidades de melhoria.

Uma ferramenta pode apresentar bom desempenho técnico e, ainda assim, gerar dificuldades quando mal integrada ao fluxo de trabalho. Avaliar tecnologia, portanto, significa observar não apenas seus resultados, mas também como ela se relaciona com as pessoas e os processos.

Conclusão

A inteligência artificial possui enorme potencial para contribuir com a evolução da saúde. Mas, quanto maior sua participação em processos clínicos e diagnósticos, maior também precisa ser a maturidade das organizações para gerenciá-la.

A ISO 7101 reforça que tecnologias emergentes devem ser avaliadas sob a perspectiva do risco, da segurança e da eficácia. Quando a inteligência artificial participa da tomada de decisão ou do diagnóstico, testar, validar e controlar tornam-se elementos essenciais da gestão.

O desafio não é escolher entre inovação e controle. É fazer com que ambos evoluam juntos.

Porque, quando a tecnologia evolui, a gestão também precisa evoluir.