A Inteligência Artificial (IA) é uma grande promessa para melhorar a prestação de cuidados de saúde e medicamentos em todo o mundo, mas apenas se a ética e os direitos humanos forem colocados no centro de seu design, implantação e uso, de acordo com as novas orientações da Organização Mundial da Saúde (OMS).
O relatório Ética e governança da inteligência artificial para a saúde é o resultado de 2 anos de consultas realizadas por um painel de especialistas internacionais indicados pela OMS .
“Como toda nova tecnologia, a inteligência artificial possui um enorme potencial para melhorar a saúde de milhões de pessoas em todo o mundo, mas como toda tecnologia, também pode ser mal utilizada e causar danos”[...] “Este novo relatório fornece um guia valioso para os países sobre como maximizar os benefícios da IA, minimizando seus riscos e evitando suas armadilhas.” , disse o Dr. Tedros Adhanom Ghebreyesus, Diretor-Geral da OMS
A inteligência artificial pode ser usada, e em alguns países ricos isso já está acontecendo, para melhorar a velocidade e a precisão do diagnóstico e da triagem de doenças; para auxiliar no atendimento clínico; fortalecer a pesquisa em saúde e o desenvolvimento de medicamentos e apoiar diversas intervenções de saúde pública, como vigilância de doenças, resposta a surtos e gestão de sistemas de saúde.
A IA também pode capacitar os pacientes a ter maior controle de seus próprios cuidados de saúde e compreender melhor suas necessidades em evolução. Também poderia permitir que países com poucos recursos e comunidades rurais, onde os pacientes frequentemente têm acesso restrito a profissionais de saúde ou profissionais médicos, coloquem as lacunas no acesso aos serviços de saúde.
No entanto, o relatório da OMS adverte contra superestimar os benefícios da IA para a saúde, especialmente quando isso ocorre às custas de investimentos e estratégias essenciais para alcançar a cobertura universal de saúde.
Ele também aponta que as oportunidades estão vinculadas a desafios e riscos, incluindo coleta e uso antiético de dados de saúde; preconceitos codificados em algoritmos e riscos da IA para a segurança do paciente, cibersegurança e meio ambiente.
Por exemplo, embora o investimento dos setores público e privado no desenvolvimento e implantação da IA seja fundamental, o uso não regulamentado da IA poderia subordinar os direitos e interesses dos pacientes e das comunidades aos poderosos interesses comerciais de empresas de tecnologia ou aos interesses dos governos em vigilância e controle social.
O relatório também enfatiza que os sistemas treinados principalmente em dados coletados de indivíduos em países de alta renda podem não funcionar bem para indivíduos em ambientes de baixa e média renda.
Os sistemas de IA devem, portanto, ser cuidadosamente projetados para refletir a diversidade de ambientes socioeconômicos e de saúde. Eles devem ser acompanhados por treinamento em habilidades digitais, envolvimento da comunidade e conscientização, especialmente para milhões de profissionais de saúde que precisarão de alfabetização digital ou retreinamento se suas funções forem automatizadas, e que devem lidar com máquinas que podem desafiar a tomada de decisão e autonomia de provedores e pacientes.
Em última análise, orientados pelas leis existentes e obrigações de direitos humanos e novas leis e políticas que consagram princípios éticos, governos, fornecedores e designers devem trabalhar juntos para abordar questões éticas e de direitos humanos em cada estágio do design, desenvolvimento e implantação de uma tecnologia de IA .
Seis princípios para garantir que a IA funcione para o interesse público em todos os países
Para limitar os riscos e maximizar as oportunidades intrínsecas ao uso da IA para a saúde, a OMS fornece os seguintes princípios como base para a regulamentação e governança da IA:
1. Proteger a autonomia humana
No contexto dos cuidados de saúde, isso significa que os humanos devem permanecer no controle dos sistemas de saúde e das decisões médicas; privacidade e confidencialidade devem ser protegidas, e os pacientes devem dar consentimento informado válido por meio de estruturas legais apropriadas para proteção de dados.
2. Promover o bem-estar, a segurança humana e o interesse público
Os projetistas de tecnologias de IA devem atender aos requisitos regulamentares de segurança, precisão e eficácia para casos de uso ou indicações bem definidos. Devem estar disponíveis medidas de controle de qualidade na prática e melhoria da qualidade no uso de IA.
3. Garantia de transparência, explicabilidade e inteligibilidade
A transparência requer que informações suficientes sejam publicadas ou documentadas antes do projeto ou implantação de uma tecnologia de IA. Essas informações devem ser facilmente acessíveis e facilitar a consulta pública significativa e o debate sobre como a tecnologia é projetada e como deve ou não ser usada.
4. Promover responsabilidade e prestação de contas
Embora as tecnologias de IA executem tarefas específicas, é responsabilidade das partes interessadas garantir que sejam usadas em condições apropriadas e por pessoas devidamente treinadas. Mecanismos eficazes devem estar disponíveis para questionamento e reparação de indivíduos e grupos que são adversamente afetados por decisões baseadas em algoritmos.
5. Garantir inclusão e equidade
A inclusão requer que a IA para a saúde seja projetada para encorajar o uso e o acesso equitativos mais amplos possíveis, independentemente de idade, sexo, gênero, renda, raça, etnia, orientação sexual, capacidade ou outras características protegidas por códigos de direitos humanos.
6. Promover uma IA que seja responsiva e sustentável
Designers, desenvolvedores e usuários devem avaliar de forma contínua e transparente os aplicativos de IA durante o uso real para determinar se a IA responde de forma adequada e apropriada às expectativas e requisitos. Os sistemas de IA também devem ser projetados para minimizar suas consequências ambientais e aumentar a eficiência energética. Governos e empresas devem abordar as interrupções previstas no local de trabalho, incluindo treinamento para profissionais de saúde para se adaptarem ao uso de sistemas de IA e possíveis perdas de empregos devido ao uso de sistemas automatizados.
Esses princípios guiarão o trabalho futuro da OMS para apoiar os esforços para garantir que todo o potencial da IA para cuidados de saúde e saúde pública seja usado para o benefício de todos.
Deseja se aprofundar nesses princípios? Clique aqui e baixe o documento de forma gratuita em sua versão completa (versão em inglês).
Quer escrever?
Publique seu artigo na Academia Médica e faça parte de uma comunidade crescente de mais de 215 mil médicos, acadêmicos, pesquisadores e profissionais da saúde. Clique no botão "NOVO POST" no alto da página!
Conteúdo elaborado por Diego Arthur Castro Cabral