A Inteligência Artificial em Saúde vem se expandindo rapidamente, com aplicações que vão desde a previsão de eventos cardiovasculares até a detecção de neoplasias e risco de quedas. No entanto, quando o foco são condições altamente estigmatizadas, como suicídio, os desafios tornam-se mais complexos. Esses modelos dependem de dados específicos, enfrentam limitações importantes de desempenho e exigem abordagens cuidadosas de implementação e avaliação.
Um estudo publicado em Health Informatics da Jama, discute de forma abrangente, lacunas e soluções em quatro domínios essenciais: dados, desempenho algorítmico, implementação e avaliação. A seguir, apresentamos os principais achados, no que se refere aos gaps e soluções propostas:
1. Dados: A Base da Inteligência Artificial e de Suas Fragilidades
Gap 1: O que ainda não medimos
Modelos podem falhar por falta de informações fundamentais. Aspectos relacionados aos determinantes sociais da saúde, como insegurança alimentar, moradia instável ou dificuldades financeiras, frequentemente não são registrados nos prontuários eletrônicos. A ausência desses dados prejudica a acurácia dos modelos, especialmente em condições estigmatizadas como o suicídio.
Solução: Prompting to Prompt
Os autores apontam que o futuro da IA pode envolver sistemas capazes de identificar quando dados faltantes aumentariam a precisão do modelo, acionando prompts para que clínicos coletem essas informações diretamente com o paciente no momento do atendimento.
Gap 2: Dados capturados, mas não utilizados
Mesmo quando fatores modificáveis são coletados, como isolamento social, hábitos de sono, atividade física, dieta e consumo de álcool, eles raramente são apresentados de forma acionável aos profissionais.
Solução: Insight acionável
Casos práticos mostram o potencial dessa estratégia: modelos que identificam risco elevado de suicídio e automaticamente acionam triagens específicas aumentam a taxa de rastreamento e encaminhamento, elevando o impacto clínico.
Gap 3: Dados que não temos
A falta de interoperabilidade entre fontes de informação compromete a visão global do paciente. Registros de saúde mental, dados de dispositivos vestíveis, exames genéticos e neuroimagem representam fontes importantes, mas raramente integradas.
Solução: Colaboração com consumidores
Ao permitir que pacientes compartilhem voluntariamente dados de múltiplos dispositivos e registros, modelos podem oferecer cuidado mais personalizado. Isso exige engajamento multidisciplinar e confiança dos pacientes no processo de compartilhamento.
2. Desempenho Algorítmico: Como as Escolhas de Modelagem Influenciam Resultados
Gap 1: Problemas com proxies
A definição de alta gravidade clínica costuma se basear em proxies, como utilização de serviços e custos, fatores que podem privilegiar pacientes com maior acesso ao sistema de saúde. Assim, modelos tendem a identificar quem é atendido, não necessariamente quem está em maior risco.
Solução: Transparência absoluta
É fundamental que todos os stakeholders compreendam quais dados alimentam o modelo, como ele será atualizado e como o desempenho muda ao longo do tempo. Uma mudança súbita na disponibilidade de dados pode degradar rapidamente a performance.
Gap 2: O problema do terceiro fator (collider bias)
Modelos às vezes falham em reconhecer risco de suicídio em grupos minorizados. O estresse crônico por discriminação racial, financeira ou de identidade pode ser o fator não medido que distorce predições, levando à subidentificação justamente dos grupos mais vulneráveis.
Solução: Seleção criteriosa dos locais de aplicação
Revalidação local e diversidade populacional são essenciais. Amostras não representativas diminuem a equidade do modelo.
Gap 3: Rareza dos eventos
Eventos estigmatizados, como suicídio, são raros o que dificulta o treinamento, favorece overfitting e aumenta risco de erro.
Solução: Recalibração prospectiva
Os modelos devem ser avaliados em modo silencioso em todo o sistema antes da implementação total. À medida que eventos raros ocorram, o modelo precisa ser recalibrado para reduzir disparidades e corrigir erros detectados.
3. Implementação: Transformar Previsões em Ações Clínicas
Gap 1: Como traduzir percentuais em decisões reais?
Modelos frequentemente entregam probabilidades (por exemplo, “risco de X% de suicídio”), enquanto decisões clínicas são binárias (“encaminhar ou não”, “internar ou não”).
Solução: Ações discretas integradas ao fluxo de trabalho
Design centrado no usuário, com comunicação clara de risco, alertas redundantes e uma ação específica vinculada a cada alerta, é fundamental. A estratégia deve evitar sobrecarga de notificações e burnout.
Gap 2: Risco de reforçar o estigma
Rotular pacientes como “de alto risco” pode aumentar estigma e medo.
Solução: Triagem universal e alertas just-in-time
O risco deve ser comunicado estrategicamente. Triagens universais reduzem estigmatização porque não selecionam apenas determinados pacientes. Alertas just-in-time oferecem suporte no momento adequado e contextualizado.
Gap 3: Impacto direto na vida do paciente
A classificação de risco pode gerar repercussões importantes fora do consultório como no emprego. Exemplos incluem militares identificados como “em risco”, que podem perder função, benefícios e estabilidade.
Solução: Comunicação com qualificadores
O modelo não determina diagnósticos. Risco não é certeza e é altamente modificável. Essa informação deve acompanhar toda comunicação do resultado.
4. Avaliação: Monitorar, Aprender e Ajustar
Gap 1: Avaliar a acurácia continuamente
Modelos inicialmente validados podem falhar ao longo do tempo devido a mudanças no comportamento clínico ou na população.
Solução: Ensaios clínicos pragmáticos
Comparar clínicas com e sem alertas permite medir precisão real e impacto em práticas de rastreamento.
Gap 2: Avaliar o design
Usuários nem sempre têm formação em estatística ou informática. O design deve ajudar a superar essa lacuna.
Solução: Feedback em tempo real
Dashboards com dados de uso, identificação de gargalos e monitoramento de interações permitem ajustes contínuos. Tanto pacientes quanto profissionais devem fornecer feedback sobre clareza, utilidade e impacto das notificações.
Gap 3: Avaliar o impacto real na saúde
Sabe-se pouco sobre como o conhecimento do risco influencia o comportamento e o engajamento do paciente.
Solução: Foco em empoderamento
É essencial monitorar se alertas realmente levam a ações concretas como encaminhamentos, adesão a serviços, intervenções e mudanças comportamentais. Alertas só têm valor se resultarem em melhoria de desfechos.
Os desafios da IA aplicada a condições estigmatizadas são amplos e complexos, incluindo lacunas de dados, limitações de modelagem, dilemas éticos de implementação e dificuldades na avaliação contínua. O estudo oferece um roteiro prático para sistemas de saúde que desejam implementar IA com responsabilidade, equidade e impacto real no cuidado.
Com abordagem multidimensional e foco em ação clínica, interoperabilidade, equidade e avaliação contínua, a IA em saúde pode evoluir de promessa tecnológica para ferramenta transformadora especialmente em cenários sensíveis como a prevenção do suicídio.
Referência:
Musacchio Schafer K, Franklin J, Perlis RH, Walsh C. Barriers and Solutions to Efficient Health Care AI Implementation. JAMA Netw Open. 2025;8(11):e2544086. doi:10.1001/jamanetworkopen.2025.44086
