Em um estudo publicado no JAMA Network Open, em 19 de dezembro de 2023, pesquisadores exploraram a influência da Inteligência Artificial (IA) nas decisões diagnósticas e de tratamento, de médicos no contexto de insuficiência respiratória aguda. O estudo, realizado mediante uma pesquisa online com vinhetas clínicas, focou em avaliar se as previsões da IA, acompanhadas ou não de explicações baseadas em imagens, poderiam melhorar ou prejudicar a precisão diagnóstica dos clínicos.
Os resultados revelaram um panorama misto: enquanto as previsões de um modelo padrão de IA melhoraram a precisão diagnóstica dos médicos, as previsões oriundas de modelos de IA sistematicamente enviesados diminuíram essa precisão. Surpreendentemente, fornecer explicações aos clínicos fez pouco para remediar os efeitos negativos dos modelos enviesados.
Para ilustrar as diferenças nas previsões e explicações fornecidas por modelos de Inteligência Artificial padrão e aqueles com viés sistemático, apresentamos a tabela comparativa detalhando exemplos específicos para pacientes:
Fonte:
Jabbour S, Fouhey D, Shepard S, et al. , 2023
Os pesquisadores destacaram que modelos de IA treinados em dados clínicos são susceptíveis a gerar previsões enviesadas baseadas em achados irrelevantes clinicamente. Esse viés pode exacerbar as desigualdades já existentes no cuidado à saúde e influenciar negativamente o julgamento clínico. O estudo também aponta para a necessidade de uma maior conscientização e treinamento dos clínicos sobre as limitações e potenciais vieses dos modelos de IA.
A incapacidade dos clínicos de reconhecer efetivamente os vieses em modelos de IA tem implicações significativas para as políticas regulatórias no campo da IA médica. Apesar das ferramentas disponíveis para explicar e ajudar a identificar erros nos modelos de IA, os resultados sugerem que a atual abordagem de explicação baseada em imagens pode não ser suficientemente eficaz para proteger contra modelos sistematicamente enviesados.
Este estudo enfatiza a importância de testar meticulosamente a integração da IA em ambientes clínicos e sugere que, apesar dos avanços tecnológicos, os clínicos devem permanecer vigilantes e informados sobre as limitações inerentes aos modelos de IA.
Leia também:
Referência:
Jabbour S, Fouhey D, Shepard S, et al. Measuring the Impact of AI in the Diagnosis of Hospitalized Patients: A Randomized Clinical Vignette Survey Study. JAMA. 2023;330(23):2275–2284. doi:10.1001/jama.2023.22295
Estar atualizado sobre as últimas descobertas e inovações nas ciências médicas faz sentido pra você? Se sim, inscreva-se em nossa newsletter e receba nossos conteúdos diretamente em sua caixa de e-mail!
