Artigo publicado inicialmente neste link.
Quero iniciar este artigo deixando claro uma coisa: sou um entusiasta da adoção da tecnologia quando aplicada para o benefício das pessoas! Estando isso estabelecido, vamos direto ao tema deste artigo.
Deve haver limite no uso da inteligência artificial (AI) no campo da Saúde Digital?
Essa pergunta pode parecer óbvia, mas garanto que sua resposta não o é!
Veja um caso muito curioso de como uma inovação causou repercussão na sociedade de sua época. Era começo do século 20 e a eletricidade estava se espalhando por diversas cidades americanas. O invento de Thomas Edison simbolizava modernidade e uma promessa de melhoria na vida das pessoas. Mas, em 20 de agosto de 1905, uma matéria foi publicada no prestigioso jornal The New York Times com o tema “Postes de luz repelem os amantes”. Aquela inovação, que fora apresentada como uma medida de segurança para os pedestres, acabou criando uma mudança de comportamento nos casais de namorados e amantes que frequentavam a praia de Coney Island e aproveitavam a penumbra da noite para se encontrarem. Para nós hoje pode parecer algo banal e até cômico, mas há cem anos isso foi notícia de jornal e gerou uma mudança nos hábitos sociais de várias pessoas. Tinha-se criado uma inovação disruptiva nos costumes de parte da população!
Bem, nós temos visto desde então várias outras inovações que causaram mudanças profundas na sociedade, como a Internet em tempos mais recentes. A sociedade já começa a ser estudada em períodos pré e pós Internet, pois seu advento criou uma nova geração de pessoas digitais e até novos padrões de comportamento. Mesmo no quesito linguístico, a Internet foi disruptiva ao introduzir novas palavras do mundo digital (“Googlar”, “viralizar” ou “postei”), idiomas de programação (por exemplo o HTML, quando surgiram as páginas na World Wide Web, a tal www!), só para citar alguns exemplos. Sim, as novas gerações digitais já se expressam e relacionam totalmente diferente das demais que nasceram nas décadas finais do século 20!
Até aqui, nada de novo, certo? Bem, depende. O fato de estarmos passando por uma revolução digital acelerada, que transforma a sociedade em períodos de meses ou poucos anos, e não mais em décadas ou séculos como acontecia antigamente, tem criado um novo e complexo desafio: como equilibrar a adoção das novas tecnologias e sistemas digitais (que aparecem em velocidade cada vez maiores) com os valores éticos, morais, emocionais e por fim, sociais?
Neste ponto trago de novo o tema deste artigo, e que tem sido no mundo inteiro debatido e publicado em milhares de textos, palestras, livros, posts, etc:
Deve haver limite no uso da inteligência artificial (AI) no campo da Saúde Digital?
Quando se menciona a Inteligência Artificial (nas suas várias concepções, como mostra o diagrama abaixo), devemos entender que ela pode ser vista como uma legítima representante de suas irmãs digitais: Internet das Coisas (IoT), Machine Learning, Data Analytics, dentre outras parentes. A inteligência artificial agrega no imaginário popular um mundo além do nosso entendimento, o mundo das máquinas!
Por isso, estamos num momento de reflexão e direcionamento: o que está se criando e com que propósito? Esta nova “ferramenta” será bem utilizada ou poderá causar sérios danos que não estamos querendo avaliar, dado o encantamento que tal tecnologia apresenta no momento? Há uma série de questões muito relevantes sendo feitas por lideranças mundiais e que devem ser analisadas com razoabilidade e imparcialidade. Vejam estes casos a seguir:
1) O Facebook divulgou, no dia 29 de julho de 2017, que havia desligado seu sistema de inteligência artificial porque ele havia criado sua própria linguagem de comunicação. O sistema do Facebook havia desenvolvido palavras de código para tornar sua comunicação mais eficiente e os pesquisadores colocaram-no off-line quando perceberam que não estava mais usando Inglês como língua padrão. A descoberta dos pesquisadores do Facebook de tal comportamento misterioso da inteligência artificial é semelhante a uma série de casos documentados em outros lugares. Em todos os casos, a inteligência artificial divergiu do treinamento em inglês que recebeu para desenvolver uma nova linguagem. As frases no novo idioma não fazem sentido para as pessoas, mas contêm significado útil quando interpretado por robôs (os tais Bots) que se comunicam a base da inteligência artificial.
2) O mundialmente reconhecido empresário Elon Musk, dono das empresas Tesla (carros elétricos) e SpaceX (espaçonaves e foguetes), disse em um encontro com lideranças governamentais dos Estados Unidos, o seguinte:
"A Inteligência Artificial é o caso raro, onde eu acho que precisamos ser pró-ativos na regulamentação em vez de reativos. Porque penso que quando estivermos reativos na regulamentação da Inteligência Artificial, será tarde demais. A Inteligência Artificial é um risco fundamental para a existência da civilização humana"- Elon Musk
Há um estudo em andamento pelo renomado MIT chamado Moral Machine (http://moralmachine.mit.edu) que está pesquisando qual decisão as pessoas julgam ser a correta quando um carro autônomo controlado por inteligência artificial terá de escolher entre opções em situações limites, que hoje somente humanos decidem. Vale a pena dar uma olhada no site e participar, pois você mesmo verá que certas decisões não são simples análise estatística baseadas em Big Data e senso lógico, elas carregam profundos valores humanos que cada um de nós possui. Como ensinar isso a máquinas, eis a questão!
O uso de qualquer tecnologia que tenha por finalidade o benefício das pessoas, é um uso adequado e valioso. Mas com certeza as questões envolvidas em qualquer inovação humana devem prevalecer: que valores éticos, morais, emocionais e sociais estamos promovendo?
A visão de Elon Musk se junta a de Bill Gates e outros expoentes do mundo digital. É claro que o futuro do uso da Inteligência Artificial não será como os filmes de Hollywood mostram nem como os mais céticos também profetizam (ao estilo Exterminador do Futuro e a rede Skynet).
Portanto, a pergunta deste artigo é mais do que pertinente no momento em que estamos: Na Saúde Digital, na qual muitos aparelhos diagnosticam, realizam exames e até farão intervenções robotizadas e automatizadas, qual o limite para o uso da Inteligência Artificial? Está aí um belo desafio no qual todos nós iremos participar, quer tenhamos nos apercebido disso ou não!
Se gostou deste Post, compartilhe, comente, dê sugestões.
Leia também os artigos anteriores da série sobre Saúde Digital:
A Inteligência Artificial capacitando novos agentes no ciclo da Saúde
Os Wearables da Saúde – A fronteira final na Medicina personalizada?
Biosensores – Em breve teremos um permanente em nosso corpo!
A escolha que enfrentamos na Saúde: entre seres humanos mecanizados ou máquinas humanizadas!
Saúde Digital é diferente de digitalizar a Saúde – como mudar nosso conceito?
Não estranhe, seu médico ainda lhe prescreverá alguns aplicativos (Apps) para sua Saúde Digital!
Atenção! Qualquer aplicativo para Saúde Digital tem indicação e contraindicação, como sua medicação.
Na era da Saúde Digital o Homem Biônico não vive apenas em Hollywood!
A Saúde 4.0 não virá apenas da transformação digital, mas também da social!
Big Data x Right Data – como achar a informação certa na Saúde Digital?
O novo modelo de negócio da Saúde chama-se “Paciente Engajado”!
"O paciente irá vê-lo agora, doutor": como a Saúde Digital fortalece a mudança na medicina
Inovação na Saúde Digital não é apenas uma questão de Ideias, mas sobretudo de Visão!
Quando a ficção se torna realidade na Saúde Digital – Parte 1
Quando a ficção se torna realidade na Saúde Digital – Parte 2
Na era da Saúde Digital, a doença pode ser crônica, mas o paciente não precisa ser!
Aonde a Transformação Digital nos levará? Uma breve análise do case "SAP Leonardo"
Você pode acompanhar outros textos sobre o tema seguindo a tag SAÚDE DIGITAL, clicando aqui.
Abraços a todos!
Guilherme Rabello
Gerência Comercial e Inteligência de Mercado
InovaInCor – InCor / Fundação Zerbini