A Transparência como Condição para o Uso de Inteligência Artificial na Avaliação de Tecnologias em Saúde: uma revisão de escopo

Introdução Nos últimos anos, o uso da Inteligência Artificial (IA) vem se expandindo para todos os campos do conhecimento, incluindo a Avaliação de Tecnologias em Saúde (ATS), com destaque para a síntese de evidências. Entre os possíveis benefícios do uso da IA em ATS encontram-se, grosso modo, a aceleração dos processos, e a otimização de recursos humanos especializados, dois dos desafios da ATS apontados por O’Rourke et al. em 2019. No entanto, como aponta Zemplényi et al. 2023 é necessário que se estruture a confiança em modelos de IA, a do desenvolvimento de modelos com métodos transparentes e acessíveis, a fim de garantir rigor metodológico e confiabilidade nos resultados. Esta revisão de escopo tem como objetivo mapear a literatura científica sobre o uso IA aplicada à ATS, apresentar os modelos e algoritmos utilizados, e discutir suas implicações metodológicas. Métodos Em maio de 2023 foi realizada uma estratégia de busca associando-se os termos “Health Technology Assessment” e “Artificial Intelligence”, e termos equivalentes, em nove bases de dados. Os critérios de inclusão, conforme o acrônimo PCC foram publicação relacionada à saúde humana (População), em que a IA (Conceito) foi utilizada em ATS (Contexto), sem restrições de data e língua. Foram excluídos artigos em que a IA foi empregada como ferramenta assistencial, como por exemplo, cirurgia robótica e diagnóstico por imagens. Foram extraídas características das publicações, das técnicas dos modelos e das fases de ATS. A seleção e a extração foram realizadas por pares independentes. Os dados foram sintetizados por meio de análises de frequência sobre as fases ATS em que a IA foi utilizada e sobre os aspectos técnicos da IA. Resultados A estratégia de busca gerou 1326 registros, dos quais 78 correspondiam aos critérios de inclusão. Destes, 57 (73%) estudos avaliaram a performance de modelos. Quanto aos processos de ATS, 41 (65%) tratavam da fase de seleção de artigos, oito da avaliação de risco de viés, e sete da extração de dados. Apenas um estudo abordou fases não relacionadas à síntese de evidências (monitoramento pós implementação). Não foram encontrados artigos sobre outros processos envolvidos na avaliação econômica ou na tomada de decisão. Em relação aos aspectos técnicos da IA, modelos mais simples baseados em algoritmos de ML como “support vector machine” e “árvores de decisão” foram os mais utilizados, além do modelo “bag of words” para o pré-processamento dos dados. Quanto à acessibilidade, apenas quatro modelos apresentavam código aberto. Discussão e conclusões A literatura atual mostra que o uso da IA na ATS se concentra na síntese de evidências, principalmente seleção de artigos, possivelmente pela menor complexidade que esta fase exige, o que possibilita o uso de modelos mais simples e acessíveis, tanto no pré-processamento de textos quanto na etapa de classificação. Já a avaliação de risco de viés, cujo pré-processamento dos textos apresenta maior complexidade, foi menos explorada. Podemos assim observar que a necessidade de transparência nos métodos em ATS é um dos grandes desafios para a aplicação da IA em etapas como avaliação econômica e monitoramento de horizonte tecnológico, cujos métodos e particularidades exigiriam modelos de aprendizagem mais autônomos, como “neural network” e “deep learning”, mas que intrinsecamente apresentam menor transparência. Por fim, salienta-se que a confidencialidade dos códigos algorítmicos é contrária ao rigor metodológico necessário à ATS.