IA CHEGA PRA VALER NA MEDICINA BRASILEIRA COM USO REGULAMENTADO PELO CFM E IMPACTO NA ANESTESIOLOGIA

Em entrevista exclusiva ao Jornal Coopanest-GO, o médico Jeancarlo Cavalcante, relator da resolução do CFM que disciplina o uso da IA na medicina do país, discorre sobre os desafios para se chegar a uma normatização equilibrada, que atendesse a todos sem travar o desenvolvimento do setor, e que não comprometesse a relação médico-paciente, além de garantir a segurança do paciente, sem eximir o profissional de responsabilidade pela decisão médica final amparada em informações fornecidas pela Inteligência Artificial. Cirurgião-torácico, terceiro vice-presidente e Head do Departamento de Inteligência Artificial do Conselho Federal de Medicina (CFM), Jeancarlo Cavalcante é mestre e doutor em Ciências da Saúde, professor da Universidade Federal do Rio Grande do Norte e advogado, inscrito na OAB do Distrito Federal. Ele liderou um grupo de notáveis para formular a regulamentação . Confira na entrevista que segue o que ele destaca sobre benefícios para médicos e pacientes, os impactos no exercício da medicina, os limites éticos e o que representa de avanço e agilidade nas rotinas e na tomada de decisão médica quanto a procedimentos e tratamentos. O médico aborda ainda sobre os impactos na anestesiologia e segurança dos pacientes.

Como o senhor chegou à relatoria da resolução que normatiza o uso da Inteligência Artificial na medicina brasileira?

Tanto na minha atuação nos conselhos quanto na iniciativa privada, sempre gostei muito de tecnologia e assumi a chefia do Departamento de Inteligência Artificial do CFM, criado há um ano e meio, que tem dois eixos: o da regulamentação da Inteligência Artificial na Medicina e o da criação de produtos de IA para o Conselho Federal de Medicina. Nesse primeiro eixo, seguimos o exemplo do Conselho Nacional de Justiça (CNJ), que regulamentou o uso da IA no judiciário. Nós também fizemos essa regulamentação para medicina. 

Mas tem um projeto tramitando no Congresso Nacional?

É verdade que tramita no Congresso Nacional um projeto de lei que vai regulamentar Inteligência Artificial de maneira geral. Mas a nossa é específica, que é o uso da IA na medicina. Seguimos os mesmos moldes do CNJ, porque a Inteligência Artificial levanta também muitos dilemas éticos e bioéticos. E você não pode tomar decisões baseadas apenas na informação da Inteligência Artificial, porque tem muitos fatores que interagem. Eu gosto muito de citar o exemplo da justiça. Se você pegar a ficha de alguém que esteja encarcerado e pedir para a Inteligência Artificial preditiva analisar aquela ficha, ela vai te dizer que aquela pessoa tem 90% de chance de voltar a cometer um crime. Quando você está analisando a progressão da pena, não pode tomar decisões com base nessa informação, porque, afinal de contas, a pessoa tem 10% de chance de não voltar a cometer um crime e tem o direito constitucional de progredir de pena. Apesar de ser uma resposta dada pela IA a partir da matemática, de algoritmos, nós não podemos tomar essa decisão. 

E isso também acontece na medicina?

Da mesma maneira. Transmutando o exemplo da justiça para a medicina, temos múltiplos aspectos na tomada de decisão médica, que você não pode utilizar o output da Inteligência Artificial. Se eu tiver dois pacientes, por exemplo, um de 80 e um de 2 anos, a média de idade, uma medida de frequência matematicamente exata é 41 anos. Isso é uma verdade matemática, mas isso é uma inverdade clínica. Eu não posso tomar decisões com base nessa informação. Daí surgiu a necessidade de regular o uso da IA para a medicina. Trabalhamos durante mais de 18 meses. Fizemos uma comissão de notáveis, trouxemos o presidente do Inova HC de São Paulo, Giovanni Cerri, o Dr. Francisco Chagas, que é um anestesiologista que trabalha com Inteligência Artificial, que tem alguns produtos lançados que os anestesiologistas usam no Brasil inteiro, produtos com IA. Dora Kaufman, que é uma articulista do jornal Valor Econômico, especialista em Inteligência Artificial. Então, formamos um grupo de notório saber para fazer uma resolução que tinha como maior desafio não engessar e não criar obstáculo à inovação e nem para as startups. Enfim, que não dificultasse a inovação e o trabalho das startups.

O senhor poderia dar exemplos?

O médico, por exemplo, não é obrigado a tomar decisão com base no que ele recebeu da Inteligência Artificial. Ele tem que submeter a um senso crítico. Ele não está obrigado a tomar nenhuma decisão com base exclusivamente em Inteligência Artificial. Outro ponto importante foi a questão da responsabilização, porque há hoje nas decisões judiciais, coisas que, por exemplo, se um médico cometer um erro no atendimento a um paciente com base nas informações que ele recebeu da Inteligência Artificial, de quem seria a culpa? Seria do software, ou seja, de quem desenvolveu o software? Seria do hospital ou do médico? Então, nós deixamos bem claro que em caso de erro por ter seguido a Inteligência Artificial, o responsável é o médico. Ele não pode se eximir dessa responsabilidade, porque ele tem que saber o que está usando. Não pode alegar que “não, eu errei porque a Inteligência Artificial me forneceu um resultado errado”.

Quais outros pontos o senhor destacaria?

Outro ponto também foi que a comunicação, seja de diagnóstico ou de prognóstico, ela não pode ser feita diretamente pela Inteligência Artificial ao paciente. Ela precisa ser feita pelo médico. Isso para evitar deteriorar a relação médico-paciente. Já imaginou você receber uma informação que está com câncer metastático a partir de um algoritmo? Outra coisa que também essa resolução trouxe foi a questão da classificação das soluções de Inteligência Artificial para medicina em baixo, médio e alto risco. Então, as soluções de baixo risco são aquelas que não necessitam de uma supervisão muito grande. Por exemplo, Inteligência Artificial usada para marcar consultas, porque em caso de falha dela, o máximo que vai acontecer é o paciente ficar chateado porque a sua consulta não foi marcada, mas isso não vai comprometer diretamente a saúde dele. É diferente de uma bomba de infusão de insulina ou de morfina comandada pela Inteligência Artificial, que se houver qualquer desvio na regularidade dessa ferramenta, o paciente pode morrer. Ela pode colocar mais insulina do que o paciente precisa. E tem as soluções de alto risco, que são aquelas autônomas, sem a participação humana. Nesse caso, nós proibimos. Nós vedamos o uso da inteligência artificial de maneira autônoma na medicina. Em síntese, foi isso que mudou.

Quais foram as principais dificuldades no processo de discussão e na elaboração da resolução? 

A principal dificuldade foi fazer um texto que não engessasse o desenvolvimento das startups, um texto que não fosse meramente burocrático, criando dificuldades. O desafio foi criar um texto direto, que atendesse a todos sem travar nenhum tipo de desenvolvimento. Encontrar esse ponto de equilíbrio não foi fácil, porque é diferente você regular isso para o judiciário, para a engenharia e para a medicina. Sobretudo, hoje com a medicina de precisão, principalmente na oncologia, em que cada paciente tem um tratamento individualizado, próprio para ele. Não foi fácil encontrar esse ponto de equilíbrio.

Quais foram as principais dificuldades encontradas nesse processo e quais foram os principais motivadores para o CFM desenvolver e publicar essa resolução?

A motivação foi a presença constante da Inteligência Artificial em todos os segmentos da medicina. Hoje, a gente não pode esquecer que a IA está presente em tudo. Então, já com a experiência de que alguns problemas bioéticos e éticos chegavam aos conselhos, havia a necessidade de regular esse uso.

Na perspectiva do senhor, o que essa resolução representa para a medicina brasileira? Qual que é o impacto que ela vai ter na nossa medicina?

Ela representa um marco histórico. Nós fizemos, a exemplo da Europa, o marco da medicina. A partir de agora, os médicos e hospitais poderão utilizar a Inteligência Artificial com mais segurança. A sociedade também estará protegida porque são regras bem claras, que os médicos e os hospitais devem seguir para poder ter uma utilização efetiva e contínua da Inteligência Artificial. Ela trouxe segurança, principalmente para a sociedade, ou seja, para os pacientes, médicos e hospitais.

O senhor pontuou  que o médico tem a decisão final sobre o diagnóstico. Considerando a resolução, a gente entende que o médico precisa conhecer sobre IA para utilizá-la da forma correta e de maneira a potencializar o diagnóstico. E isso também tem implicações, inclusive no campo ético e jurídico. Como o senhor avalia essa questão?

Isso é fundamental. O letramento digital em Inteligência Artificial precisará ser feito para todos os médicos que utilizam IA. Você precisa conhecer o mínimo da ferramenta que está utilizando para aquele propósito. Não precisa saber que o algoritmo é feito a partir do logaritmo e tal. Mas precisa saber das limitações, dos potenciais risco de vieses que uma ferramenta de Inteligência Artificial pode trazer. É preciso que os médicos tenham um mínimo de letramento digital em inteligência artificial, porque só se utiliza bem aquilo que se conhece. A  gente pretende fazer uma campanha de divulgação desta resolução e a partir dela, nós vamos ter um catalisador para que os médicos possam se informar dos riscos, dos benefícios, porque os benefícios hoje da Inteligência Artificial na medicina são bem maiores do que os riscos. 

O senhor comentou que o CFM pretende fazer uma campanha de divulgação sobre a resolução. De que outras formas o conselho pretende incentivar e fiscalizar a capacitação técnica necessária para o médico fazer um bom uso da Inteligência Artificial?

Essa capacitação técnica o próprio médico vai buscar e o hospital vai treiná-lo. A fiscalização será apenas sob demanda. Houve uma denúncia, houve uma suspeita de que alguma coisa de errado está acontecendo naquele hospital, aí sim, o Conselho vai agir. Os hospitais que utilizam em massa a Inteligência Artificial vão ter a sua comissão para fazer auditoria e calibração na ferramenta. É muito importante que as pessoas saibam que não será uma fiscalização ostensiva. 

Considerando os investimentos necessários. Como o senhor entende que será o crescimento do uso da IA na medicina? 

Isso vai ocorrer de maneira mais progressiva. Sem esquecer que o Conselho Federal não é a única autarquia que vai regular isso aí. Existe também a Anvisa que tem uma Resolução da Diretoria Colegiada que fala especificamente sobre Software as Medical Device (SAMD), que trata do software de Inteligência Artificial aplicado à medicina como se fosse um dispositivo médico. É de conhecimento público que a Anvisa trata de medicamentos e dispositivos médicos, mas nunca de software. Mas agora ela trata também de software de Inteligência Artificial aplicado à saúde. Isso também é uma maneira da Anvisa proteger a sociedade, porque o software vai ter que ser homologado pela Anvisa para poder ser escalado em nível comercial. É uma coisa interessante para manter a segurança. Porque quando não há regulação, tudo é permitido e, obviamente, os cuidados com o risco que podem ocorrer ficam relegados ao segundo plano.

A formação médica atual não seria um viés complicador nesse cenário, considerando que mais de 100 cursos de Medicina no país apresentaram notas insuficientes (1 e 2) no ENAMED?

Sem dúvida. Hoje nós temos um número absurdo de escolas médicas. Temos mais escolas médicas do que a Índia, que tem 1 bilhão e 600 milhões de habitantes. Nós somos 220 milhões de habitantes e com isso a queda da qualidade dessas escolas é visível, o que foi comprovada  nos últimos dados publicados pelo Ministério da Educação. São alunos que se formam médicos e não têm condição de atender ao paciente. Tanto que hoje uma das principais bandeiras do Conselho Federal de Medicina é a criação do exame de proficiência, o Profimed, que é uma espécie de prova como se faz na OAB para que a gente possa colocar um filtro e deixar receber o CRM somente aqueles que têm a capacidade de atender. Preocupa muito esse número de faculdades com nota 1, médico nota 0 e essas pessoas vão atender no pronto socorro, na UPA, e vão atender normalmente a população mais vulnerável da nossa sociedade. É, sim, uma preocupação com a qualidade desses médicos que impactam também no conhecimento tecnológico em termos de IA aplicada à medicina.

Como será feita a distinção técnica entre uma "falha do sistema" e um "erro de julgamento crítico" em eventos adversos intraoperatórios monitorados por algoritmos complexos?

O médico tem sempre que associar mais de uma variável. Se ele está monitorando, numa anestesiologia, um paciente com Inteligência Artificial, ele tem também o monitor cardíaco e outros dispositivos que na ocorrência de uma diferença de informação, tem que identificar quem está certo, ou seja, se o monitor cardíaco está certo, se a Inteligência Artificial está certa, examinando o paciente. Então, o exame físico é fundamental, o exame clínico que compreende anamnese mais o exame físico, é fundamental para que isso não ocorra. A relação médico paciente é antes de tudo uma relação de exame. Precisa examinar o paciente. Cada vez mais a gente precisa se aproximar do paciente e examiná-lo, justamente para evitar esses vieses, esses fatores que podem confundir.

Quais cuidados são importantes para que a Inteligência Artificial não reduza esse contato do médico com o paciente e contribua para fortalecer ainda mais essa relação?

A relação médico paciente deveria ser patrimônio imaterial da humanidade, porque hoje, apesar da Inteligência Artificial já ser usada na saúde mental, inclusive para conversar com paciente que tem algum transtorno, seja de ansiedade, de depressão, nada substitui o toque do médico no exame físico, o olho no olho, essa relação interpessoal. Há sempre aquelas pessoas alarmistas que dizem que isso vai desaparecer, mas eu espero que não desapareça, porque o contato do médico com o paciente ainda é muito importante.

Falando mais especificamente sobre a anestesiologia, em procedimentos anestésicos de urgência ou quando o paciente já está sob sedação, como deve ser operacionalizado esse dever de informar ao paciente, sem comprometer a celeridade no ato médico? Como o senhor avalia e como a questão é tratada pelo CFM? 

O paciente precisa ser informado se em algum momento da sua assistência vai ser utilizado a Inteligência Artificial. E isso é feito, obviamente, antes dele ir para o centro cirúrgico, na consulta pré-anestésica. Naqueles casos de urgência e emergência, obviamente, não há  como comunicar o paciente antes e, caso seja utilizado, isso deverá ser comunicado aos familiares. Obviamente o paciente chega numa situação de emergência, não tem como fazer essa comunicação, mas é importante que se anote no prontuário, que em determinado momento foi utilizado ferramenta tal e que isso seja comunicado, na impossibilidade do paciente compreender, aos familiares. 

Na visão do senhor e do CFM, qual o impacto mais relevante dessa resolução para prática médica na anestesiologia? 

A anestesiologia é uma especialidade extremamente complexa e imagino que a Inteligência Artificial deva trazer mais segurança ao ato anestésico. O anestesiologista trabalha com dados, com informações, é pressão arterial, é frequência cardíaca, saturação de oxigênio. Então, a inteligência artificial vai trazer muito mais dados para que o anestesista possa ter uma tomada de decisão muito mais efetiva e rápida do que era anteriormente. Vai trazer segurança e mais efetividade ao ato anestésico.

Cremego considera normatização do uso da IA na medicina um marco para proteção de médicos e pacientes

O presidente do Conselho Regional de Medicina de Goiás (Cremego), Rafael Cardoso Martinez, médico oftalmologista, também falou ao Jornal da Coopanest-GO sobre a aprovação da resolução do Conselho Federal de Medicina (CFM) que normatiza o uso da Inteligência Artificial na medicina e sobre os impactos esperados na atuação dos médicos, inclusive na anestesiologia, instituições hospitalares e na vida dos pacientes. Na avaliação do presidente do Cremego a resolução é um “marco importantíssimo”, porque está baseada na bioética e  preserva a autonomia do médico: “Ele tem a palavra final”.

Para Rafael Martinez, o médico precisa entender que a sua autonomia é intocável. “O médico tem o direito de usar ou não Inteligência Artificial. Ele tem o direito de se recusar a usar determinada IA na clínica ou no hospital. A palavra final é do médico. Isso tem que ficar muito claro”, pontua o presidente do Cremego. Ele aponta ainda que a IA é um apoio: “Isso é outra coisa muito importante. Ela não assume a medicina, ela é um apoio à prática médica”.

Ele considera que o uso da Inteligência Artificial em Goiás já é uma realidade perceptível e que o papel do Cremego nesse primeiro momento é de difusão da informação sobre a resolução. “Ela tem todos os pontos elaborados, classificação de risco, tipos de Inteligência Artificial, qual autonomia o médico tem. Nosso papel é difundir, divulgar ao máximo a informação para atendimento seguro ao médico e ao paciente. É um papel educativo”, frisa. Rafael Martinez diz que o Cremego vai promover seminários e fóruns para discutir Inteligência Artificial.

O presidente do Cremego pondera que toda inovação tecnológica traz benefícios e requer cuidados. “A resolução é importante porque tenta normatizar a questão ética, que é convívio. Ética é a relação do médico com o médico, com paciente, com os hospitais e as instituições. Essa relação ética está na resolução”, salienta.

E para o paciente, pontua o presidente do Cremego, o importante é que ele tenha ciência sobre a utilização de IA no seu atendimento. “O paciente também tem sua autonomia. Para o paciente a resolução é um ganho. Isso melhora a segurança”, avalia Rafael Martinez.

Em relação às contribuições da normatização do uso da IA na anestesiologia, ele ressalta que já existem algumas que os médicos usam e praticam. “As IAs vão caminhar, outras vão surgir. A resolução vem só para dizer que o juízo crítico, a autonomia é do médico. E o paciente precisa estar ciente do uso ou não da IA. A resolução ampara o colega anestesiologista em sua atividade e também ao paciente, dando maior segurança”, conclui.