Artigo premiado em 2019 no IX Congresso Brasileiro de Direito Médico do CFM - 2º colocado - nota 9,43
Resumo
Desenvolvimentos científicos em cirurgia robótica, telecirurgia e inteligência artificial têm revolucionado a prestação dos cuidados à saúde. Contudo, há uma série de impactos éticos que devem ser ponderados, tais como a capacitação especial do médico, a privacidade e proteção de dados da saúde do paciente e um especial consentimento livre e esclarecido. Ademais, a grande complexidade na análise da responsabilidade civil dá-se, sobretudo, na determinação de quem, efetivamente, causou o evento danoso e, portanto, se a hipótese é de defeito no produto (robô), erro médico ou, ainda, responsabilidade do hospital, seja solidariamente ao médico (cuja culpa foi reconhecida) ou advinda da falha do próprio serviço hospitalar. Com a utilização da inteligência artificial, há questões ainda mais nebulosas, especialmente com a fabricação de robôs capazes de tomar decisões cada vez mais autônomas, surgindo discussões sobre o regime ético-jurídico mediador das relações entre humanos e robôs, bem como as formas de responsabilização.
Palavras-chave: Cirurgia robótica. Inteligência artificial. Responsabilidade Civil. Princípios éticos.
1. Panorama da aplicação das tecnologias de medicina robótica, telemedicina e inteligência artificial
Desenvolvimentos científicos em cirurgia robótica, telecirurgia e inteligência artificial (IA) têm revolucionado a prestação dos cuidados à saúde. Atualmente, procedimentos cirúrgicos assistidos, amiúde, por robôs, já são realidade em muitos hospitais ao redor do mundo, sobretudo nas especialidades de urologia, ginecologia, cirurgia geral, torácica e abdominal, além da neurocirurgia – esta, pela necessidade de exatidão milimétrica na intervenção cirúrgica. A utilização do robô torna mais segura e precisa a cirurgia, eliminando o tremor natural do ser humano; a microcâmera amplia a visão do médico e a tomada de decisões no decorrer da cirurgia se torna mais rápida e exata.
A Intuitive Surgical, empresa estadunidense fabricante do robô cirurgião “Da Vinci” (Da Vinci Surgical System), desde 2000, já vendeu mais de 2.900 robôs nos Estados Unidos e mais de 4.500 no restante do mundo.[i] Estima-se que essa tecnologia robótica já proporcionou a realização de cirurgias minimante invasivas para mais de 3 milhões de pessoas ao redor do mundo.[ii] Até 2008, havia três robôs em atividade no Brasil; hoje, são quarenta e um – e a quantidade tende a aumentar.[iii] No Brasil, já ocorreram mais de 17.000 cirurgias robóticas.[iv]
Em localidades que não dispõem de especialista, também podem ser realizadas telecirurgias. Em 2002, um cirurgião, localizado em Nova Iorque, realizou telecirurgia de colecistectomia laparoscópica em um paciente de 68 anos, que estava à aproximadamente 7.000 quilômetros de distância, em Strasbourg (França).[v] Dois médicos locais permaneceram ao lado da paciente, acompanhando o ato e prontos para intervirem, caso necessário. Essa primeira cirurgia realizada à distância, conhecida como “Operation Lindbergh”, durou menos de 1 hora e foi concluída com sucesso. No início do ano de 2019, um cirurgião realizou a primeira neurocirurgia remota no mundo, com a futura tecnologia 5G.[vi] O Dr. Ling Zhipei, que estava em Pequim, implantou remotamente um neuroestimulador em um paciente, que sofria de Mal de Parkinson, localizado à 3.000 quilômetros de distância, em Hainan. A cirurgia durou três horas e foi finalizada também satisfatoriamente, sem intercorrências.
Em que pese os enormes benefícios trazidos com as tecnologias da medicina robótica não é difícil prever, a partir da experiência, sobretudo, dos Estados Unidos e Europa, que poderão surgir situações geradoras de ações indenizatórias por danos ocorridos durante uma cirurgia robótica. Nos Estados Unidos, entre os anos de 2000-2013, há 10.624 relatos de eventos adversos envolvendo o robô cirurgião Da Vinci, que foram protocolados junto à FDA. [vii] Na última década, a Intuitive Surgical promoveu 175 recalls, [viii] tanto para pequenos ajustes no equipamento robótico, como esclarecimentos de instrução e atualizações de software, bem como para questões mais sérias, como o caso de uma faca cirúrgica que não podia se mover quando necessária para realizar algum corte, braços cirúrgicos que apresentaram falhas e outros componentes do robô que poderiam se mover inesperadamente.
Em 2015, um senhor de 69 anos morreu de falência múltipla de órgãos, após se submeter à cirurgia robótica (Da Vinci Robot) no Freeman Hospital, em Newcastle, Inglaterra.[ix] O robô danificou parte do coração do paciente, Mr. Pettitt, durante um procedimento cirúrgico. Abriu-se inquérito policial para determinar a causa da morte. Segundo laudo pericial, “a morte do paciente foi consequência direta da cirurgia e suas complicações e também, em parte, porque ela foi realizada com assistência robótica”. O cirurgião acabou revelando que "poderia ter realizado a cirurgia com mais treinamento prévio no robô, antes da intervenção cirúrgica”. Além disso, constatou-se que o hospital, onde ocorreu a intervenção, não possuía nenhuma política de treinamento dos médicos em novas tecnologias na área da saúde. O diretor médico do hospital emitiu um pedido de desculpas reconhecendo que o hospital “falhou em garantir um padrão de cuidado razoavelmente esperado na cirurgia robótica”. Nos Estados Unidos, tem-se notícia[x] de diversas pessoas pleiteando indenização por danos sofridos durante a performance dos robôs Da Vinci. Contudo, o resultado da grande maioria dos litígios não é publicado, pois são resolvidos extrajudicialmente, por meio de acordos com cláusula de confidencialidade sobre os seus termos.
Atualmente, estão em fase de desenvolvimento algumas tecnologias de inteligência artificial (IA), com expressivo investimento do Departamento de Defesa dos Estados Unidos e da NASA, para que robôs inteligentes sejam capazes de executar procedimentos cirúrgicos sem necessidade de intervenção humana. Destaca-se, ainda, que as recentes pesquisas científicas em IA permitiram o aprimoramento de diagnósticos e cuidados médicos. Inclusive, algumas entidades hospitalares utilizam robôs de assistência médica para executarem diversas tarefas.
A construção de robôs capazes de tomar decisões cada vez mais autônomas, inclusive intervindo no corpo humano sem atuação humana conjunta, tem trazido muitas discussões sobre o regime ético-jurídico mediador das relações entre humanos e robôs e, ainda, sobre quem deve recair a responsabilidade diante de danos causados por robôs inteligentes. Recentemente, em panorama internacional, conforme veremos adiante, discutiu-se, inclusive, a hipótese de os robôs autônomos serem dotados de um estatuto jurídico próprio, como “pessoas eletrônicas”, que seria algo no meio do caminho entre as pessoas e as coisas. Diante desse panorama, é de suma relevância o presente estudo sobre as diretrizes e os princípios éticos na utilização da robótica e inteligência artificial na área da saúde. De igual importância, há os riscos associados a essas novas tecnologias, bem como as formas de responsabilização por danos causados pelos robôs. Todas essas questões serão expostas neste trabalho.
2. Cirurgias assistidas por robôs e telecirurgias
Na cirurgia assistida por robô, os movimentos da mão do médico-cirurgião são traduzidos num robô, por meio de movimentos pequenos e com grau elevado de precisão. Devido à maior flexibilidade dos braços robóticos em comparação com as ferramentas laparoscópicas convencionais, o procedimento e a sutura podem ser executados com maior precisão. Ademais, o punho do robô tem capacidade infinitamente superior ao punho humano, pois aquele pode girar 360.º em todos os eixos, tornando completamente acessíveis locais anteriormente de difícil acesso ou até mesmo inacessíveis. O robô-cirurgião opera com pequenos instrumentos dentro do corpo do paciente, sendo um deles o laparoscópico, um tubo fino com uma pequena câmera que envia imagens 3D em alta resolução para um monitor de vídeo.
Os desenvolvimentos científicos em cirurgia robótica e telecirurgia têm revolucionado a prestação dos cuidados à saúde. Contudo, há uma série de impactos éticos e legais que devem ser ponderados ao utilizar essa tecnologia, dentre eles: capacitação do profissional, privacidade e proteção de dados da saúde do paciente, lei aplicável (tendo em vista os possíveis conflitos de jurisdição), consentimento informado do paciente, limitações da tecnologia etc.[xi] Jacques Marescaux expõe que, tendo em vista a cirurgia remota poder ser realizada por um médico em um país ou estado diverso do paciente, podem surgir “conflitos de jurisdição e questões legais, tais como, se o cirurgião deve ou não ser responsável por erros relacionados a atrasos na transmissão ou falha do equipamento, ou se um consentimento especial deve ser obtido”.[xii]
Além disso, desde a primeira cirurgia robótica realizada remotamente (telecirurgia), a grande dificuldade na ampla aplicabilidade dessa tecnologia é a diminuição do tempo de latência (latency time ou time delay) entre os movimentos realizados pelo cirurgião e a replicação pelo robô.[xiii] O aumento do tempo de latência é atribuído principalmente a problemas de roteamento e congestionamento de rede ou à sobrecarga do servidor. Esse delay não só gera uma operação demorada, mas pode também produzir imprecisões cirúrgicas significativas, comprometendo a segurança do paciente e retardando a sua recuperação. Mesmo pequenos atrasos no tempo de transmissão, como milissegundos, podem levar a resultados desastrosos na telecirurgia e, potencialmente, a várias ações de responsabilidade civil médica. De acordo com o neurocirurgião Paul J. Choi,[xiv] embora seja possível alcançar um tempo de latência de menos de 100 milissegundos, com cabos de fibra óptica e uma tecnologia especial de rede (Modo de Transferência Assíncrono - Asynchronous Transfer Mode - ATM), ainda assim é necessário quarenta (40) técnicos de TI trabalhando durante a cirurgia, para garantir a manutenção dessa velocidade. Há estudo que aponta a possibilidade de os médicos serem treinados para realizar procedimentos cirúrgicos mesmo existindo o time delay, contudo, adverte-se para necessidade de constante treinamento e cuidado com a autoconfiança do profissional.[xv]
Ugo Pagallo, no livro “The Law of Robots”,[xvi] explica que “apesar dos sistemas cirúrgicos do robô Da Vinci possam reduzir o tempo das hospitalizações em cerca de metade e os custos hospitalares em cerca de um terço, há o risco de erro médico devido ao treinamento deficiente com o sistema robótico: os cirurgiões não recebem tempo e recursos suficientes para aprender a utilizar o robô de forma adequada (...) os cirurgiões com extensa experiência na tecnologia robótica declaram que são necessárias pelo menos 200 cirurgias para se tornarem proficientes no sistema Da Vinci”.[xvii] Vale mencionar que, mesmo a cirurgia sendo realizada remotamente, ainda há a necessidade de um anestesista e outro cirurgião na sala de cirurgia, para intervirem em caso de mau funcionamento robótico ou quaisquer interrupções tecnológicas. Evidentemente, deve-se garantir que toda a equipe de profissionais da saúde envolvidos (médicos, enfermeiros, instrumentadores) seja apropriadamente capacitada e receba constantemente treinamento e atualização na nova tecnologia. Isso porque, não calibrar corretamente um instrumento robótico pode, por exemplo, aumentar a probabilidade de um movimento impreciso do braço do robô cirurgião ou, ainda, ocasionar uma falha na transmissão da imagem do sítio cirúrgico.[xviii]
Ademais, deve-se levar em consideração que num modelo moderno de “telecirurgia integrada” (integrated telesurgery model), o cirurgião utiliza as informações eletrônicas do paciente em rede – tais como exames médicos e outros dados de saúde – e, enquanto realiza a cirurgia, analisa-as constantemente, através de um console especial. Caso ocorra alguma falha de conexão com a interface por uma interrupção da internet, há probabilidade de surgirem danos substanciais ao paciente. Segundo Thomas R. McLean,[xix] deve-se, nesse caso, também discutir a possibilidade de responsabilização do provedor de serviços de internet. Outro ponto importante a ser ponderado é como garantir que os dados sensíveis de saúde dos pacientes, em atendimento remoto, sejam preservados, garantindo transmissão segura de informações, sem que ocorra vazamento ou perda de dados. Ocorrendo tal infortúnio, há normas específicas para determinar a responsabilização pela violação dos dados sensíveis de saúde: na União Europeia, o Regulamento Geral de Proteção de Dados (General Data Protection Regulation – GPDR) e, no Brasil, a Lei Geral de Proteção de Dados Pessoais (LGPD), que entrará em vigor em 2020.
Imagine-se o cenário de um médico que realiza remotamente uma cirurgia robótica de revascularização miocárdica em uma paciente. Durante o procedimento, o braço robótico realiza um movimento, aparentemente inesperado, e corta uma artéria coronária. Caso o profissional seja demandado numa ação de reparação de danos, será de crucial importância, inicialmente, investigar o nexo causal entre a conduta médica e o dano sofrido. Pode-se chegar à conclusão de que o médico não agiu com culpa – atuou com a prudência, diligência e conhecimento exigíveis – e o dano causado ao paciente foi devido ao tempo de latência entre os movimentos do cirurgião e a replicação pelo robô. Nesse caso, mesmo que o médico tenha treinamento em cirurgia robótica e conhecimento prévio desse delay, deverá ser responsabilizado pelo risco associado à tecnologia? Ou, ainda, pode-se pensar na imputação da responsabilidade objetiva do fabricante do robô pelo tempo de latência? Essas são algumas das principais questões debatidas pela comunidade jurídica.
A grande complexidade na análise da responsabilidade civil, nesses casos, dá-se, sobretudo, na determinação de quem, efetivamente, causou o evento danoso e, portanto, se a hipótese é de defeito no produto (ou nas informações prestadas pelo fabricante), erro médico (nas modalidades negligência, imprudência ou imperícia) ou, ainda, responsabilidade do hospital, seja solidariamente ao médico (cuja culpa foi reconhecida) ou advinda da falha do próprio serviço hospitalar (pessoal auxiliar, treinamento inadequado de médicos e outros profissionais, defeito de qualquer instalação, nas dependências do estabelecimento). Deve-se considerar também a responsabilidade da empresa de telecomunicação por alguma queda no acesso à internet durante a utilização da tecnologia na intervenção médica. Além disso, os eventos adversos podem ser decorrência de uma limitação da própria tecnologia, tal como na telecirurgia, em que há ainda um certo delay entre os movimentos da mão do cirurgião e os movimentos reproduzidos no robô, que está a milhares de quilômetros de distância. Neste caso, é importante investigar a quem deverá ser imputada a responsabilização.
As demandas, que envolvem eventos adversos ocorridos durante a intervenção médica assistida por dispositivos ou aparelhos robóticos, são conhecidas nos Estados Unidos como “finger-pointing cases”, pois há sempre o dilema de quem deve responder, o profissional da medicina (e/ou o hospital) ou o fabricante do equipamento. Em 2017, desenvolveu-se um dispositivo chamado “dVLogger”,[xx] espécie de “caixa preta” acoplada no robô cirurgião Da Vinci, que grava vídeo e metadados durante a cirurgia. Por meio desse recurso, captura-se o posicionamento dos instrumentos e como o médico está conduzindo o movimento do robô. Com a metadata evidence, auxilia-se na elucidação do que de fato ocorreu (culpa médica ou defeito do produto) no momento da intervenção médica. Pode-se constatar, por exemplo, que durante a cirurgia o robô emitiu algum alerta ou aviso de erro, mas o médico desconsiderou o alerta e optou por assumir o risco de dar continuidade ao ato cirúrgico. Ou, ainda, pode-se verificar um mau funcionamento do próprio robô, que realizou inesperadamente algum movimento.
Evidentemente, na cirurgia assistida por robô é o médico quem continua a comandar o ato cirúrgico, valendo-se de instrumentos robóticos como extensão de suas próprias mãos. Assim, no eventual exame da responsabilidade civil, a equação é conhecida; em primeiro plano, analisa-se a atuação pessoal do médico, com o intuito de se reconhecer a ocorrência de culpa stricto sensu (imperícia, imprudência ou negligência), por parte do médico; reconhecida a culpa do seu preposto, responderá solidariamente o hospital. Por defeito do robô, do software ou de qualquer outro componente, a responsabilidade do hospital será objetiva, assegurado o direito de regresso.[xxi] Admitida a conceituação de culpa médica como desvio ou inobservância dos padrões normais de conduta, deve-se firmar qual seria esse modelo idealizado, para a delimitação dos critérios de atuação do médico.
Pode, ainda, restar provado que o médico, durante a realização da cirurgia robótica atuou com a diligência que legitimamente se esperava dele – ou seja, não agiu com culpa –, tampouco há defeito no robô cirurgião, sendo o evento danoso decorrente de um risco associado à própria terapêutica. Nesse caso, caberá ao médico ou entidade hospitalar provar que obteve o consentimento livre e esclarecido do paciente sobre os benefícios e riscos na utilização da referida tecnologia. O fato gerador da indenização “não será o dano em si, mas a falha (ou ausência) de informação, isoladamente considerada. Noutras palavras, o médico responderá não como causador do dano, mas por não ter obtido o consentimento do paciente”.[xxii] Deborah Dubeck explica as peculiaridades do consentimento na cirurgia robótica: “os pacientes precisam saber mais do que apenas os riscos gerais, benefícios e alternativas que estão associadas ao procedimento. O risco de falha do robô e a prontidão para implementar um plano de contingência, com a conversão para um procedimento aberto, são questões que devem ser abordadas no consentimento informado do paciente. Os cirurgiões precisam passar algum tempo com o paciente explicando os prós e contras da cirurgia robótica, comparando-a com outras alternativas de terapêutica”.[xxiii]
Além disso, na telecirurgia, conforme explana Neera Bhatia, há também questões fundamentais de privacidade envolvidas, levantando-se a preocupação “de que os pacientes possam não saber até que ponto suas informações médicas podem ser divulgadas a outras pessoas. Praticamente, qualquer consulta de telecirurgia envolve a transferência eletrônica de registros médicos e informações do paciente”. [xxiv] Em resumo, nas cirurgias robóticas é imprescindível que sejam transmitidas ao paciente algumas informações específicas, dentre elas, destaca-se: 1) qual o treinamento e a experiência do médico em cirurgias assistidas por robô; 2) qual é a política de treinamento em cirurgia robótica do hospital onde será realizado o procedimento; 3) se a cirurgia robótica em questão já foi realizada por qualquer outra pessoa no mesmo hospital ou em qualquer outra entidade hospitalar do país; 4) quais são os benefícios e riscos da cirurgia assistida por robô em relação à cirurgia convencional.
3. Inteligência artificial nos robôs cirurgiões autônomos e robôs de assistência médica
A cirurgia robótica realizada à distância, como expusemos anteriormente, pode enfrentar algumas dificuldades técnicas (falha de transmissão e conexão com internet), além de problemas decorrentes da própria limitação da tecnologia (time delay entre os movimentos da mão do cirurgião e a replicação pelo robô). Diante disso, o Departamento de Defesa dos Estados Unidos (EUA) criou, em 2018, um fundo de financiamento chamado Foundational Research for Autonomous, Unmanned, and Robotics Development of Medical Technologies (FORWARD),[xxv] a fim de facilitar o desenvolvimento de tecnologias em robótica e inteligência artificial na área da saúde, tanto para o contexto militar como da sociedade civil. Ao que tudo indica, um dos objetivos do fundo é desenvolver um robô cirurgião inteligente, que seja capaz de, por exemplo, executar cirurgias nos soldados feridos em campo de guerra ou, ainda, realizar procedimentos cirúrgicos em astronautas durante missão espacial.
Em 2008, bioengenheiros da Duke University desenvolveram um robô capaz de localizar os primeiros vestígios de câncer mamário.[xxvi] Esse tipo de câncer aparece como uma massa (ou tumoração palpável) e o robô alcança o material com uma agulha de biópsia, sem a necessidade de assistência humana. Stephen Smith, membro sênior da equipe de pesquisa, explica que esta é a primeira prova de que a tecnologia de inteligência artificial avançará até o ponto em que os robôs – sem intervenção humana – poderão, um dia, realizar procedimentos cirúrgicos autonomamente.
Jacob Turner, no livro “Robot Rules: Regulating Artificial Inteligence” (2019)[xxvii], define inteligência artificial como “the ability of a non-natural entity to make choices by an evaluative process”. De acordo com a Comissão da União Europeia, a inteligência artificial refere-se a “sistemas que revelam comportamento inteligente, analisando seu ambiente e realizando ações - com algum grau de autonomia - para atingir objetivos específicos. Os sistemas baseados em IA podem ser puramente baseados em software, agindo no mundo virtual (por exemplo, assistentes de voz, software de análise de imagem, mecanismos de busca, sistemas de reconhecimento de voz e expressão) ou os sistemas de IA podem ser incorporados em dispositivos de hardware (por exemplo, robôs avançados, carros autônomos, drones ou aplicações de Internet das coisas).”.[xxviii]
Carros autônomos estão entre os exemplos mais conhecidos de IA. Protótipos avançados estão sendo testados por empresas como Google e Uber, bem como por fabricantes de carros tradicionais como a Tesla e a Toyota. Contudo, vale lembrar que a AI também causou suas primeiras fatalidades: em 2017, um modelo de Tesla S dirigindo no piloto automático chocou-se contra um caminhão, matando seu passageiro. Em 2018, um carro autônomo da Uber atropelou uma pedestre no estado do Arizona, nos Estados Unidos.[xxix] No que se refere à aplicação da IA na área médica, destaca-se que o Hospital John Radcliffe, em Oxford (Inglaterra) desenvolveu sistema inteligente de análise diagnóstica de doenças cardíacas, chamado Ultromics, software de ecocardiografia mais preciso do mundo, que torna o diagnóstico de doenças cardíacas coronarianas em percentual aproximado de 90%. Extrai mais de 80.000 pontos de dados de uma única imagem do ecocardiograma e usa machine learning (aprendizado da máquina) para analisá-los, aumentando a eficácia diagnóstica da doença cardíaca.
De acordo com recente estudo publicado, em 2016, na revista Science Translational Medicine, até o momento, as cirurgias robóticas autônomas foram realizadas apenas em animas e, devido às limitações tecnológicas, incluindo falta de sistemas de visão que possam distinguir e rastrear os tecidos-alvo em ambientes cirúrgicos dinâmicos, bem como a própria falta de algoritmos inteligentes que possam executar tarefas cirúrgicas complexas. Recentemente, desenvolveu-se o robô cirurgião inteligente chamado STAR (Smart Tissue Autonomous Robot), [xxx] que é programado para realizar algumas técnicas cirúrgicas. Ele é capaz de analisar as circunstâncias do caso e escolher, a partir do seu banco de dados, a técnica mais apropriada para aquela situação específica, sem que nenhuma pessoa indique qual movimento ele deve executar. O robô é equipado com câmeras 3D e sistema de visão noturna, os quais permitem a identificação do sítio cirúrgico. O braço robótico utiliza um sensor que mede a tensão e a força necessárias para realizar cortes ou suturas com precisão. Em recente pesquisa com o robô STAR, realizaram-se cirurgias em tecidos intestinais de suínos, verificando-se melhores (e mais precisos) resultados nas operações feitas pelo robô, ao se comparar com os resultados dos médicos que realizaram o mesmo procedimento cirúrgico. Há, contudo, a ressalva de que o robô recebeu supervisão e auxílio humano, pois foram utilizados marcadores fluorescentes para indicar à máquina quais pontos do tecido precisavam ser operados. Em princípio, o projeto foi concebido desde o princípio para que o robô cirurgião tenha uma autonomia supervisionada.
As tecnologias de inteligência artificial vêm sendo amplamente desenvolvidas também para fins de assistência médica. O robô Moxi, criado pela empresa texana Diligent Robotics, foi fabricado no intuito de auxiliar a equipe médica em entidades hospitalares, realizando procedimentos logísticos como coleta de exames e distribuição de suprimentos médicos. Com a IA, o robô mapeia e aprende sobre o ambiente ao seu redor, movendo-se por um conjunto de rodas e usando sensores para identificar obstáculos, sejam eles móveis ou estacionários. Moxi possui uma tela que exibe informações relacionadas às tarefas que estão sendo realizadas. Um braço e uma pinça sofisticada permitem que ele execute trabalhos como a seleção de itens médicos, os quais são colocados em uma bandeja anexa ao robô e, em seguida, entregues no quarto do paciente internado na entidade hospitalar.
A empresa japonesa SoftBank Robotics desenvolveu o robô cuidador de idosos chamado Pepper, de 1,21 metros de altura, que custa 15 mil libras e já é utilizado em casas de repousos na Inglaterra. Ele conversa com o paciente e monitora a sua saúde emocional, repassando algumas informações aos médicos e à equipe de saúde. O robô possui microfones e câmeras com software de reconhecimento, que são capazes de identificar expressões faciais e tons de voz. A partir dessa análise, o robô monta um cenário de como o indivíduo se sente e reage com o paciente de acordo com essa interpretação.
4. Resolução do Parlamento Europeu com recomendações de Direito Civil sobre Robótica (2017) e Guia Ético para a inteligência artificial (2019)
A Resolução do Parlamento Europeu, de 16 de fevereiro de 2017 (2015/2103(INL)), contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica, identificou a responsabilidade civil dos danos causados por robôs como "uma questão crucial" de ser resolvida ao nível da União.[xxxi] O intuito da Resolução é atribuir à União Europeia um papel de vanguarda no estabelecimento de princípios éticos basilares – quanto ao desenvolvimento, programação e utilização de robôs e Inteligência artificial (AI) – que devem ser respeitados nos regulamentos e legislações dos seus estados-membros. São definidos alguns aspectos que caracterizam os robôs inteligentes: “- aquisição de autonomia através de sensores e/ou da troca de dados com o seu ambiente (interconetividade) e da troca e análise desses dados; - autoaprendizagem com a experiência e com a interação (critério opcional); - um suporte físico mínimo; - adaptação do seu comportamento e das suas ações ao ambiente; - inexistência de vida no sentido biológico do termo”.[xxxii]
O Parlamento Europeu aponta as duas principais utilizações da robótica na área médica: os robôs de assistência e os robôs médicos.[xxxiii] Os primeiros são aqueles destinados à prestação de cuidados de grupos mais vulneráveis, como pessoas com deficiência, que sofrem de demência ou perda de memória, com distúrbios cognitivos ou idosas. Estima-se que, em 2025, mais de 20 % dos europeus terão idade igual ou superior a 65 anos, com um aumento elevado do número de pessoas de 80 anos ou mais.[xxxiv] Há uma vasta gama de aplicações da tecnologia robótica nos domínios da prevenção, assistência, supervisão, estímulo e acompanhamento dessas pessoas.
Os chamados robôs médicos, por sua vez, utilizam da tecnologia robótica para execução de tarefas cirúrgicas precisas e menos invasivas, permitindo uma recuperação mais rápida e diminuição de complicações pós-operatórias. Há um alerta de que é necessário ocorrer um sério investimento dos estados-membros na educação, formação e preparação adequadas para profissionais da saúde em cirurgia robótica, a fim de assegurar que a saúde dos doentes seja protegida pelo mais elevado nível possível de competência profissional. Considera-se, ainda, que é essencial respeitar o princípio da autonomia supervisionada dos robôs, ou seja, “caberá sempre a um cirurgião humano estabelecer o plano inicial de tratamento e tomar a decisão final relativa à execução”.
No que se refere a forma de responsabilização por atos dos robôs, a Resolução sugere a escolha entre duas abordagens diferentes de um sistema de responsabilidade civil: "gerenciamento de riscos" ou "responsabilidade estrita (objetiva)".[xxxv] A responsabilidade objetiva exige “apenas a prova de que o dano ocorreu e o estabelecimento de um nexo de causalidade entre o funcionamento prejudicial do robô e os danos sofridos pela parte lesada”.[xxxvi] A abordagem da gestão de riscos, por sua vez, “não se concentra na pessoa «que atuou de forma negligente» como individualmente responsável, mas na pessoa que é capaz, em determinadas circunstâncias, de minimizar os riscos e de lidar com os impactos negativos”.[xxxvii]
Para além destas duas abordagens, a resolução também prevê, como perspectiva a longo prazo, a criação de um status legal especial para robôs, ou seja, seu reconhecimento como “pessoas eletrônicas”.[xxxviii] Essa personalidade eletrônica seria responsável por qualquer dano causado pelo comportamento autônomo do robô. Esta é, evidentemente, a ideia mais inovadora e estimulante no seio do Parlamento, mas também alvo de severas críticas da comunidade jurídica. Tal perspectiva parte do pressuposto de que, futuramente, a IA será totalmente autônoma e, por isso, os robôs inteligentes não poderiam mais serem considerados como simples instrumentos nas mãos dos seus intervenientes (fabricante, fornecedor, proprietário, usuário).
Contudo, destaca-se que, se um robô poderá ser completamente autônomo e se tornar uma pessoa jurídica é atualmente uma questão apenas teórico-filosófica atualmente. Isso porque é o fabricante do robô autônomo quem programa o algoritmo e o robô decide a partir deste algoritmo específico. Por isso, os robôs devem ser desconsiderados como agentes e compreendidos como produtos. Ademais, ressalta-se que, tal como explica a professora portuguesa Ana Elisabete Ferreira,[xxxix] a atribuição de personalidade jurídica aos robôs não é necessária nem útil. Não há proveito “em, conferir personalidade jurídica aos robôs, quando o que se pretende não é fazer deles titulares autônomos de direitos, mas somente responsabilizá-los”.[xl]
No mesmo sentido, Lawrence Solum, citado por Ugo Pagallo, na obra “The Law of Robots”,[xli] expõe motivos, dentre os quais destacamos dois deles, que justificam a impossibilidade de os robôs autônomos possuírem uma personalidade própria. São todas motivações plausíveis e que, por hora, no atual estado de desenvolvimento da IA, seguimos de pleno acordo. Primeiramente, deve-se considerar que os robôs inteligentes não são humanos e, por isso, não há razão que justifique os sistemas jurídicos abandonarem o seu ponto de vista antropocêntrico, garantindo direitos personalíssimos constitucionais aos robôs. Em segundo lugar, deve-se atentar ao fato de que os robôs não possuem o conjunto de elementos cruciais (pré-condições) para se atribuir personalidade a alguém, tais como consciência, intencionalidade, desejo e interesses. Os robôs não possuem um senso moral de responsabilidade. Solum ressalta que, embora os humanos possam ter direitos sem responsabilidades devido a graves doenças psicológicas ou imaturidade intelectual, seria ilógico comparar a personalidade de robôs com os direitos das crianças ou dos doentes mentais. Para Ugo Pagallo, “o argumento mais forte contra a atribuição de personalidade jurídica aos robôs é a tese de que eles não podem possuem consciência”.[xlii]
Ainda, a resolução do Parlamento Europeu destaca como possível solução para a complexidade de atribuir responsabilidade pelos danos causados por robôs cada vez mais autônomos “um regime de seguros obrigatórios, conforme acontece já, por exemplo, com os carros autônomos.[xliii] Complementar a esse regime, sugere-se a criação de um Fundo de Garantia da reparação de dados nos casos não abrangidos por qualquer seguro.[xliv] Recomenda-se que o fabricante, o programador, o proprietário ou o utilizador se beneficiem de responsabilidade limitada se contribuírem para um fundo de compensação ou se subscreverem conjuntamente um seguro, para garantir a indenização quando o dano for causado por um robô.
Interessante observar que a Resolução realça o princípio da transparência, pois deve ser sempre possível traduzir a computação realizada pelo sistema de IA a uma forma de compreensão pelos seres humanos. Nesse sentido, os robôs podem ser “dotados de uma «caixa negra» com dados sobre todas as operações realizadas pela máquina, incluindo os passos da lógica que conduziu à formulação das suas decisões”.[xlv] Destacam-se também outros princípios que devem orientar o quadro ético na utilização da robótica tais como os princípios de beneficência, não-maleficência, autonomia, justiça, consentimento esclarecido etc.[xlvi] Ainda, a Resolução considera que o quadro jurídico da União deve ser atualizado e complementado, através de princípios éticos que se coadunem com a complexidade da robótica e com as suas inúmeras implicações sociais, médicas e bioéticas.[xlvii]
Em 2019, a Comissão Europeia lançou um guideline para auxiliar os estados-membros na criação de sistemas autônomos “de confiança”, o chamado Ethics guidelines for thustworthy AI. Inicialmente, o guia passará por uma fase piloto, que durará até o início de 2020, quando a Comissão receberá comentários e sugestões de empresas, a fim que se garanta a possibilidade de serem respeitados os requerimentos elaborados. A dimensão ética da inteligência artificial, nessa fase inicial, está disposta em sete requerimentos: “garantia da supervisão e controlo humano (os sistemas não devem limitar a autonomia humana); robustez e segurança (os algoritmos têm de ser capaz de lidar com erros); privacidade e controlo de dados (os utilizadores devem manter o controlo dos seus dados e poder revogar o acesso); responsabilização (capacidade de reconhecer erros e corrigi-los); transparência, diversidade, não-discriminação e justiça, e promoção do bem-estar ambiental e societal.”.[xlviii]
5. Considerações finais
Os desenvolvimentos científicos em cirurgia robótica, telecirurgia e inteligência artificial têm revolucionado a prestação dos cuidados à saúde. O presente trabalhou procurou demonstrar que há benefícios e riscos com a utilização dessas tecnologias, o que requer certas ponderações e reflexões sobre as formas de responsabilização e princípios éticos aplicáveis.
Na cirurgia assistida por robô, seja presencial ou à distância, os movimentos da mão do médico-cirurgião são traduzidos num robô. Em que pese as inúmeras vantagens, há importantes discussões sobre a capacitação do médico (e o tempo mínimo de treinamento), a privacidade e proteção de dados da saúde do paciente, o especial consentimento informado do paciente, as limitações da tecnologia etc. Na telecirurgia, há o risco de eventos adversos decorrentes do tempo de latência (time delay) entre os movimentos realizados pelo cirurgião e a replicação pelo robô.
Em 1943, Isaac Asimov, na série “Eu, Robô” criou as Leis da Robótica, numa tentativa literária de controlar a “competição dos robôs com os seres humanos”: “(1) Um robô não pode magoar um ser humano ou, por inação, permitir que tal aconteça. (2) Um robô tem de obedecer às ordens dos seres humanos, exceto se essas ordens entrarem em conflito com a primeira lei. (3) Um robô tem de proteger a sua própria existência desde que essa proteção não entre em conflito com a primeira ou com a segunda lei (Ver: I. Asimov, Runaround, 1943); e (0) Um robô não pode magoar a humanidade ou, por inação, permitir que a humanidade se magoe.”[xlix]
Obviamente, a raça humana não será exterminada por um levante de robôs. Contudo, atualmente, chegamos ao ponto em que, aquilo que parecia apenas ficção científica, tornou-se, em grande parte, realidade. Devido aos impressionantes avanços tecnológicos dos últimos anos, especialmente na área da robótica e inteligência artificial, robôs de assistência médica já conseguem efetuar atividades autônomas e cognitivas que, regra geral, eram realizadas exclusivamente por seres humanos, tal como a capacidade de tomar decisões quase independentes e de aprender com a experiência. Ao que tudo indica, num futuro próximo, veremos robôs inteligentes realizarem procedimentos cirúrgicos, sem intervenção humana, nos soldados em campos de guerra ou nos astronautas durante missão espacial. Esse cenário de cirurgias robóticas inteligentes tenderá a ser difundido para que pacientes, nos locais mais remotos do globo, tenham acesso às cirurgias.
Diante disso, também traçamos algumas ponderações sobre a discussão em torno da criação de um status legal especial para robôs, isto é, o seu reconhecimento como “pessoas eletrônicas”. Expusemos argumentos que justificam a impossibilidade de os robôs autônomos possuírem uma personalidade própria. Destacamos, por fim, princípios que devem orientar o quadro ético na utilização da robótica e inteligência artificial, dentre eles, destacamos: beneficência, não-maleficência, autonomia, justiça, consentimento esclarecido, segurança, transparência etc.
Referências
[i] [Consul. 8 Fev. 2019], Disponível em: < https://idataresearch.com/robotic-surgery-statistics-show-movement-towards-more-minimally-invasive-procedures/>.
[ii] [Consul. 8 Fev. 2019], Disponível em: <https://www.davincisurgery.com/da-vinci-surgery/da-vinci-surgical-system/>.
[iii] [Consul. 8 Fev. 2019], Disponível em: <https://exame.abril.com.br/negocios/dino/aumenta-o-numero-de-cirurgias-roboticas-no-brasil/>.
[iv] [Consul. 8 Fev. 2019], Disponível em: <https://www.einstein.br/sobre-einstein/imprensa/press-release/brasil-comemora-10-anos-de-cirurgia-robotica>.
[v] CHOI, Paul J.; OSKOUIAN, Rod J.; TUBBS, R. Shane. «Telesurgery: Past, Present, and Future». Cureus Journal of Medical Science, São Francisco: Cureus, v. 10, n. 5, Mai. 2018. [Consul. 20 Mai. 2019], Disponível em: <https://assets.cureus.com/uploads/review_article/pdf/12751/1550698319-20190220-655-3jlaza.pdf>.
[vi] [Consul. 8 Jun. 2019], Disponível em: <https://www.rt.com/news/454056-remote-brain-surgery-china
[vii] Dados retirados do banco de dados “MAUDE” (The Manufacturer and User Facility Device Experience), um sistema de relatórios mantido pela FDA. A Intuitive Surgical, fabricante do robô Da Vinci, apresentou a grande maioria dos relatos, embora alguns também tenham sido apresentados por hospitais, médicos e pacientes. Análise dos dados extraídas do artigo: “A Retrospective Study of 14 Years of FDA Data”. [Consul. 12 Mar. 2019], Disponível em: <https://arxiv.org/ftp/arxiv/papers/1507/1507.03518.pdf>.
[viii] [Consul. 12 Mar. 2019], Disponível em: < https://www.nbcnews.com/health/health-news/da-vinci-surgical-robot-medical-breakthrough-risks-patients-n949341>.
[ix] [Consult. 03 Mar. 2019], Disponível em: <https://www.kingsleynapley.co.uk/insights/blogs/blog-medical-negligence-law/heart-breaking-robotic-surgery-patient-dies-as-a-result-of-robotic-assisted-heart-surgery#page=1>.
[x] [Consult. 03 Mar. 2019], Disponível em: <https://www.nbcnews.com/health/health-news/da-vinci-surgical-robot-medical-breakthrough-risks-patients-n949341>.
[xi] BHATIA, Neera. Telesurgery and the Law. In: KUMAR, Sajeesh; MARESCAUX, Jacques. Telesurgery. Londres: Springer, 2008. Ebook.
[xii] MARESCAUX, Jacques; RUBINO, Francesco; SOLER, Luc. Computer-Assisted Remote Surgery. In: KUMAR, Sajeesh; MARESCAUX, Jacques. Telesurgery. Londres: Springer, 2008. Ebook.
[xiii] MARESCAUX, Jacques; RUBINO, Francesco; SOLER, Luc. Computer-Assisted Remote Surgery. In: KUMAR, Sajeesh; MARESCAUX, Jacques. Telesurgery. Londres: Springer, 2008. Ebook.
[xiv] CHOI, Paul J.; OSKOUIAN, Rod J.; TUBBS, R. Shane. «Telesurgery: Past, Present, and Future». Cureus Journal of Medical Science, São Francisco: Cureus, v. 10, n. 5, maio. 2018. [Consul. 20 Mai. 2019], Disponível em: <https://assets.cureus.com/uploads/review_article/pdf/12751/1550698319-20190220-655-3jlaza.pdf>.
[xv] SONG, Xu. et. al. «Effect of latency training on surgical performance in simulated robotic telesurgery procedures». The International Journal of Medical Robotics and Computer Assisted Surgery, Chicago: John Wiley & Sons, v. 11, p. 290-295, 2014.
[xvi] PAGALLO, Ugo. The Laws of Robots: Crimes, Contracts, and Torts. Londres: Springer, 2013. Ebook.
[xvii] PAGALLO, Ugo. The Laws of Robots: Crimes, Contracts, and Torts. Londres: Springer, 2013. Ebook.
[xviii] BHATIA, Neera. Telesurgery and the Law. In: KUMAR, Sajeesh; MARESCAUX, Jacques. Telesurgery. Londres: Springer, 2008. Ebook.
[xix] MCLEAN, Journal of Legal Medicine. Cybersurgery: An Argument for Enterprise Liability. Journal Of Legal Medicine, Los Angeles, vol. 23, n. 2, p. 167-210, nov. 2010.
[xx] Consult. 12 Mar. 2019], Disponível em: < https://www.therobotreport.com/study-intuitives-black-box-recorder-shows-quantifiable-skill-differences-among-surgeons/>.
[xxi] No caso de responsabilidade civil do fabricante por um defeito no robô, há normas específicvas aplicáveis nos Estados Unidos (Restatement (Second) of Torts), Brasil (Código de Defesa do Consumidor) e União Europeia (Diretiva Europeia 85/374/CEE e Resolução do Parlamento Europeu, de 16 de fevereiro de 2017 (2015/2103(INL)), que contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica).
[xxii] KFOURI NETO, Miguel. Responsabilidade Civil dos Hospitais. 3. ed. São Paulo: Revista dos Tribunais, 2019. Ebook.
[xxiii] DUBECK, Deborah. Robotic-Assisted Surgery: Focus on Training and Credentialing. [Consult. 4 Mar. 2019], Disponível em: <http://patientsafety.pa.gov/ADVISORIES/Pages/201409_93.aspx>.
[xxiv] BHATIA, Neera. Telesurgery and the Law. In: KUMAR, Sajeesh; MARESCAUX, Jacques. Telesurgery. Londres: Springer, 2008. Ebook.
[xxv] [Consult. 03 Mar. 2019], Disponível em: <https://www.northeastern.edu/resdev/funding-announcement/toward-next-generation-trauma-care-capability-foundational-research-autonomous-unmanned-robotics-development-medical-technologies-forward-award/>.
[xxvi] [Consult. 03 Mar. 2019], Disponível em: <https://today.duke.edu/2008/05/robot3-D08.html>.
[xxvii] TURNER, Jacob. Robot Rules: Regulating Artificial Intelligence: Suíça: Palgrave Macmillan, 2019. Ebook.
[xxviii] Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions on Artificial Intelligence for Europe, Brussels, 25.4.2018 COM(2018) 237 final.
[xxix] [Consult. 26 Mar. 2019], Disponível em: <https://www.theguardian.com/technology/2018/mar/19/uber-self-driving-car-kills-woman-arizona-tempe>.
[xxx] SHADEMAN, Azad. et. al. Supervised autonomous robotic soft tissue surgery. Science Translational Medicine, Washington, vol. 8, n. 337, p. 337-345.
[xxxi] Parlamento Europeu. Disposições de Direito Civil sobre Robótica. Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica (2015/2103(INL)). P8_TA-PROV(2017)0051, parágrafo 49.
[xxxii] Idem, para 1.
[xxxiii] Idem, para 31-35.
[xxxiv] Idem, para F.
[xxxv] Idem, para 53.
[xxxvi] Idem, para 54.
[xxxvii] Idem, para 55.
[xxxviii] Idem, para 59 (f).
[xxxix] FERREIRA, Ana Elisabete. Responsabilidade civil extracontratual por danos causados por robôs autônomos. Revista Portuguesa do Dano Corporal, Coimbra, n. 27, p. 39-63, dez. 2016.
[xl] Idem.
[xli] PAGALLO, Ugo. The Laws of Robots: Crimes, Contracts, and Torts. Londres: Springer, 2013. Ebook.
[xlii] PAGALLO, Ugo. The Laws of Robots: Crimes, Contracts, and Torts. Londres: Springer, 2013. Ebook.
[xliii] Idem, para 57.
[xliv] Idem, para 58.
[xlv] Idem, para 12.
[xlvi] Idem, para 13.
[xlvii] Idem, para 11.
[xlviii] [Consult. 26 Mar. 2019], Disponível em: <https://publico.pt/2019/04/09/tecnologia/noticia/comissão-europeia-lanca-guia-etico-inteligencia-artificial-1868540>.
[xlix] Parlamento Europeu. Disposições de Direito Civil sobre Robótica. Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica (2015/2103(INL)). P8_TA-PROV(2017)
Quer escrever?
Publique seu artigo na Academia Médica e faça parte de uma comunidade crescente de mais de 135 mil médicos, acadêmicos, pesquisadores e profissionais da saúde. Clique no botão "NOVO POST" no alto da página!
