A utilização da inteligência artificial (IA) na área da saúde tem despertado grande interesse e expectativa, oferecendo potenciais benefícios para profissionais médicos, pacientes, pesquisadores e cientistas. No entanto, é crucial que sejam adotadas medidas de cautela e regulamentação para garantir que essas tecnologias sejam utilizadas de forma responsável e segura.
Recentemente, a Organização Mundial da Saúde (OMS) emitiu um alerta sobre os riscos associados às chamadas ferramentas de modelo de linguagem (LLMs) baseadas em IA. Essas plataformas, como ChatGPT, Bard, Bert e outras, têm a capacidade de imitar a comunicação humana, mas também apresentam desafios e preocupações significativas.
Um dos principais pontos destacados pela OMS é a disseminação de orientações incorretas. A IA, por mais avançada que seja, ainda pode cometer erros e oferecer informações imprecisas, o que pode ter consequências graves para a saúde dos pacientes. É fundamental que os profissionais da saúde compreendam as limitações dessas ferramentas e não as utilizem como única fonte de informação clínica.
Outra questão importante é a violação de dados pessoais. O manuseio inadequado e o acesso não autorizado a informações sensíveis dos pacientes podem comprometer a privacidade e a confidencialidade dos dados, além de representar riscos à segurança cibernética. É fundamental estabelecer diretrizes claras para proteger a privacidade dos pacientes e garantir a segurança dos dados de saúde.
Além disso, a disseminação de desinformação também é uma preocupação. As LLMs podem ser alimentadas com dados e informações incorretas, o que pode levar à propagação de informações falsas e prejudicar a tomada de decisões clínicas adequadas. É necessário um processo de validação e verificação rigoroso das informações fornecidas pelas plataformas de IA para evitar a disseminação de conteúdo enganoso.
Diante desses desafios, a OMS ressalta a importância da regulamentação e supervisão adequadas dessas tecnologias. É necessário que as empresas e desenvolvedores de IA sigam princípios éticos, como transparência, inclusão, engajamento público e avaliação rigorosa. Além disso, é essencial promover a educação e a capacitação dos profissionais de saúde no uso responsável da inteligência artificial.
A utilização da IA na saúde pode trazer avanços significativos, mas também traz consigo responsabilidades. A regulamentação adequada e a conscientização dos riscos associados são fundamentais para garantir que essas tecnologias sejam utilizadas de forma ética, segura e benéfica para todos.
Leia também:
- Confira seis ferramentas de IA além do ChatGPT que podem auxiliar o médico
- A inteligência artificial e a área médica
- Benefícios do uso de Inteligência Artificial no monitoramento do tratamento da tuberculose
- Medicina de precisão, uma nova e revolucionária forma de atuar sobre as doenças e garantir mais saúde
- Medicina: o futuro já chegou com o ChatGPT?
- USP utiliza IA para criar modelo que indique predisposição à depressão e ansiedade
- Médicos vs ChatGPT : A Primeira Rodada - Um estudo revolucionário?
Fonte:
ONU News. (maio, 2023). OMS aponta três riscos do uso da inteligência artificial na saúde.
https://news.un.org/pt/story/2023/05/1814472