O ChatGPT ganhou os holofotes globais em 30 de novembro de 2022. Desenvolvida pela OpenAI, empresa americana de pesquisas em inteligência artificial (IA), a plataforma acumulou mais de 100 milhões de usuários em sua base apenas nos primeiros dois meses – um número que, unido ao potencial demonstrado pela ferramenta, chamou a atenção de players de diversos setores, incluindo a saúde. As promessas de uso eram incontáveis, desde a otimização de prontuários, auxílio na tomada de decisões clínicas, leitura de exames e mais. Mas, quase um ano depois, desafios como confiabilidade de informações médicas e vieses dos algoritmos mostram que há muito trabalho a ser feito para explorar o máximo da ferramenta de maneira segura e equalitária.

Embora o nome do ChatGPT hoje seja quase homônimo para se referir aos Large Language Models (Grandes Modelos de Linguagem, em tradução livre), ele não é o único disponível no mercado. Os primeiros começaram a surgir em 2018, mas o grande trunfo do ChatGPT e do seu boom está na imensa base de dados usada para construir a IA, a naturalidade da linguagem utilizada e a versatilidade para interpretar prompts – os comandos dados por usuários – e em adaptar as respostas.

“A utilização da IA generativa na saúde pode ser muito escalável”, afirma Rodrigo Demarch, diretor executivo de inovação do Einstein. “Em termos de infraestrutura é preciso utilizar nuvem, acesso à internet, mas nada muito diferente do que você precisaria para, por exemplo, oferecer um serviço de telemedicina. Se consegue ofertar um, muito provavelmente consegue utilizar o outro. É uma tecnologia que tem grande potencial para auxiliar o médico, mas é fundamental que não nos esqueçamos que suas aplicações clínicas precisam ser validadas cientificamente”.

IA já é realidade em algumas funções

Esse suporte da inteligência artificial generativa já é realidade para algumas situações. Um caso de uso que já vem sendo adotado, ainda que em fase piloto em instituições pelo mundo, é o da tecnologia como assistente para preenchimento de prontuários eletrônicos. A ferramenta até mesmo pode ouvir a consulta e escrever no registro do paciente para posterior revisão do médico ou profissional de saúde. Com isso, o médico dedicaria menos tempo para funções operacionais e mais tempo na atenção ao paciente.

Em artigo para Futuro da Saúde, o cirurgião do aparelho digestivo e presidente da Sociedade Beneficente Israelita Brasileira Albert Einstein, Sidney Klajner, escreveu: “Não vai demorar para que tenhamos um assistente de IA acompanhando nossas consultas. Poderá ir registrando a conversa que temos com o paciente, filtrando apenas o que é relevante como informação médica e já colocando nos campos corretos. Em uma consulta de 40 minutos, o médico certamente gasta uns 10 minutos para colocar a história do paciente no computador. Nos Estados Unidos, estima-se que 25% do tempo da atividade médica é para registro”.

Muito se fala também em como a IA está revolucionando a radiologia. Um estudo publicado no JAMA revelou que, com o uso de algoritmos, radiologistas conseguem detectar sinais em exames de imagem, como tomografias computadorizadas e ressonâncias magnéticas, com mais precisão – e até mesmo identificam pequenos sinais que o olho humano não conseguiria detectar, o que possibilitaria o início de um tratamento em um estágio precoce.

Há ainda a possibilidade de que sistemas avançados de inteligência artificial possam auxiliar a indústria farmacêutica a identificar moléculas mais promissoras para início de pesquisa e desenvolvimento, operadoras de planos de saúde. Além de inúmeros outros exemplos na área de gestão, com hospitais, planos de saúde e demais instituições utilizando os potenciais da tecnologia para otimizar recursos e apontar demandas não identificadas.

Big techs e instituições de saúde se unem para aumentar a confiabilidade

Contudo, a confiabilidade das respostas apresentadas pela ferramenta, principalmente na área de apoio à decisão clínica, ainda é um empecilho para o uso mais massivo. Um artigo publicado na Nature em julho deste ano trouxe os resultados de um teste realizado por urologistas com a ferramenta. Os pesquisadores inseriram informações de 100 casos de pacientes e perguntaram possíveis diagnósticos, sugestões de solicitação de exames e de tratamentos. Apenas 52% das respostas foram consideradas apropriadas. Outro pesquisador, também em artigo publicado na Nature, não localizou três das quatro referências científicas disponibilizadas pelo ChatGPT – elas simplesmente não existiam, foram criadas pela IA.

Diante das inúmeras críticas de especialistas e da constatação dos equívocos das ferramentas por profissionais e pesquisadores, empresas de tecnologia e de saúde têm se unido para a construção de LLMs focados na área. É o caso do Med-PaLM, do Google, desenvolvido com o foco em produção de informação médica validada por meio de exames médicos, pesquisas médicas e consultas de consumidores. Atualmente na sua segunda versão, lançada este ano, a big tech afirma que foi o primeiro sistema de IA a ultrapassar a marca de aprovação em questões do tipo US Medical License Exam (USMLE) – equivalente à prova da Ordem de Advogados no Brasil (OAB), só que para o exercício de medicina nos Estados Unidos.

Em parceria com instituições como a Mayo Clinic, uma das grandes referências em assistência à saúde nos Estados Unidos, o Google tem desenvolvido ainda projetos focados em doenças como câncer. Juntas, as organizações otimizaram – através do Med-PaLM –, o processo de planejamento de radioterapia, usado no tratamento de mais da metade dos pacientes oncológicos no país. “Um passo intensivo no processo de planejamento é uma técnica chamada ‘contorno’, em que os médicos desenham linhas em tomografias computadorizadas para separar áreas de câncer de tecidos saudáveis ​​próximos que podem ser danificados pela radiação durante o tratamento. Este processo pode levar até 7 horas para um único paciente”, destaca o Google. O artigo com os resultados do estudo deve ser publicado em breve.

Case brasileiro

No Brasil já há exemplos semelhantes. Livia Oliveira-Ciabati, doutora em Saúde Pública pela Universidade de São Paulo (USP) e coordenadora de inovação do Hospital Israelita Albert Einstein, lidera o projeto “SAMPa: Smart Assistant for Monitoring Prenatal Health Care with Large Language Models (LLMs)”, ou simplesmente “Sistema Astuto de Monitoramento Pré-Natal”, como pontua a brasileira. Prestes a iniciar a fase um, na região metropolitana de Manaus (AM), a ferramenta servirá de suporte aos profissionais locais a aprofundar a anamnese, identificar riscos e indicar possíveis caminhos.  

A iniciativa foi uma das seis brasileiras selecionadas pelo Global Grand Challenges (GGC), da Fundação Bill e Melinda Gates – este ano, a instituição decidiu fomentar projetos em saúde e desenvolvimento global que contribuirão para moldar o acesso equitativo à IA. O GGC levanta outra questão importante, que é o uso de tecnologias generativas adaptadas para realidades locais, respeitando as particularidades e necessidades de cada uma. O projeto liderado por Oliveira-Ciabati, focado em saúde materna na região Norte do país, levou em consideração os números preocupantes de mortalidade infantil e o cenário de saúde manauense.

“Felizmente, um cuidado à saúde muito presente dentro do Brasil é o pré-natal. Estamos falando de mais de 90% das mulheres tendo algum tipo de contato com o sistema de saúde durante o período da gestação”, aponta a pesquisadora. “O problema é que nem sempre os protocolos são seguidos adequadamente por inúmeros motivos. Seja porque o profissional não é capacitado suficientemente para pré-natal e tem alguma dificuldade, seja pela alta demanda diária que acaba limitando as consultas a 5, 10 minutos por paciente. A ideia é que a ferramenta desenvolvida entenda o contexto da situação de saúde da mulher e traga sugestões para que o profissional aprofunde essa anamnese”.

Para treinar a ferramenta e garantir que ela gerasse informações de alta confiabilidade científica e médica, os cientistas envolvidos no projeto realizaram uma curadoria de cerca de dois mil papers relacionados à saúde materna na América Latina. Os profissionais de saúde da instituição – médicos, enfermeiros e técnicos – colaboraram ao verificar o título de todos e avaliar se estavam de acordo com as melhores práticas estabelecidas pelos protocolos de referência.

“Tivemos médicos e enfermeiras envolvidos, que fizeram o rastreamento desse número de artigos para ter certeza de indicar quais as melhores práticas e quais perguntas não devem deixar de ser feitas. E é em cima desse grupo de artigos que o algoritmo especializado vai ser validado”, reforça Demarch.

A escolha de papers produzidos e focados na população da região busca evitar o chamado colonialismo científico, quando a produção de conhecimento é feita em um centro, normalmente em países desenvolvidos, mas sem considerar aspectos de outras culturas. “Por isso, a ideia seria aplicar o que é produzido aqui, para as mulheres da nossa região, e tem uma validação científica, que já foi revisado por pares e publicado”, destaca Oliveira-Ciabati.

Equidade e regulamentação

Essa é uma estratégia adotada no combate às iniquidades ainda existentes em saúde e tecnologias emergentes. Formada por um volume gigantesco de dados coletados de diferentes fontes – buscas na internet, livros, posts de redes sociais, artigos acadêmicos –, a informação gerada pelos LLMs está suscetível ao viés das informações produzidas pelos seres humanos. E, consequentemente, replicá-las.

Uma matéria publicada em agosto no Washington Post constatou que seis das principais plataformas (ChatGPT, Bard, My AI, DreamStudio, Dall-E e Midjourney) responderam perguntas relacionadas a transtornos alimentares com conselhos e imagens prejudiciais em 41% das vezes. Depois de inúmeros alertas e relatos de pesquisadores, jornalistas e usuários em geral, o ChatGPT parece estar moderando os conteúdos gerados pelo bot. Hoje, ao fazer perguntas relacionadas à saúde mental, a ferramenta orienta o usuário a buscar ajuda profissional.

Diante do potencial – e dos riscos éticos e de cibersegurança – envolvendo os LLMs, a discussão por modelos de regulamentação tem ganhado espaço em todo o mundo. Entre 2018 e 2020, a União Europeia e países como Estados Unidos, China, Chile e Brasil, organizaram comissões envolvendo a sociedade civil e membros da academia para discutir os principais pontos de atenção e desenvolver projetos de lei. Aparecem como consenso na maioria dos projetos a proteção de dados sensíveis, a transparência em relação à aquisição desses dados, o monitoramento humano e o compromisso com a equidade.

Em julho deste ano, o médico futurista Bertalan Meskó e o cardiologista Eric J. Topol publicaram um artigo defendendo a necessidade de supervisão regulatória dos LLMs no uso em saúde. A dupla argumenta que além da regulamentação geral, é preciso pensar na incorporação de tais tecnologias em cada setor, e a partir daí criar protocolos específicos. Proteção de dados sensíveis, algoritmos enviesados que comprometem o princípio de equidade, transparência e interpretação, defesa da propriedade intelectual e monitoramento constante são desafios que devem nortear os governos e os órgãos regulamentadores durante esse processo.

Capacitação dos profissionais de saúde e apoio à ciência

Além da regulamentação, a implementação dessas novas tecnologias exige também um novo olhar para a própria formação dos profissionais de saúde, pois as equipes de cuidado ainda não se sentem capacitadas o suficiente para utilizá-las amplamente. É o que apontou uma pesquisa encomendada pela GE Healthcare: segundo o levantamento, 60% dos profissionais acreditam ser importante o uso de tecnologias avançadas e que elas tornam as tarefas clínicas básicas mais eficientes, mas 47% dos entrevistados não acham que a tecnologia médica disponível é fácil e intuitiva. Além disso, 58% deles afirmaram não confiar nas informações disponibilizadas pelas IAs.

Oliveira-Ciabati destaca a importância de manter a parceria e a cooperação próxima com profissionais de saúde não apenas durante o desenvolvimento de novas tecnologias IA, mas também no processo de implementação, para um suporte de capacitação adequado: “É preciso ter uma certa divisão de responsabilidades. Os cientistas são muito especializados em computação e entendem o cenário da saúde, mas dificilmente terão o conhecimento do nível de um médico, de uma enfermeira que tem 10 anos de carreira”.

Para ela, “esse é um diferencial do Einstein, de trabalhar sempre com equipes multidisciplinares e trazer essa perspectiva do que funciona e do que não funciona. Entender a rotina desse profissional de saúde, pois é ele que guia as nossas decisões. E há, claro, essa etapa de treinamento. No caso de Manaus, alinhamos tudo com as lideranças locais para entender a realidade dos profissionais de saúde que vamos treinar, que vão utilizar a ferramenta no dia a dia”.

Neste sentido, o apoio dos governos locais, em parceria com instituições de ensino, é fundamental para o fomento de pesquisas sobre o uso de novas tecnologias em comunidades locais de maneira ética e sustentável. “Sabemos que uma população saudável é um fator econômico positivo, consegue trabalhar melhor, gera impostos, adoece menos, tem uma melhor qualidade de vida. O importante é sempre trabalharmos com base em evidências científicas, porque é uma responsabilidade grande trabalhar com dinheiro público. Temos que ter esse comprometimento”, argumenta a pesquisadora.

Sobre o futuro dos LLMs, a cientista acredita que é preciso direcionar o olhar cada vez mais para o aspecto humano. “Precisamos nos preocupar para não acontecer como o previsto no livro ‘Algoritmo de Destruição em Massa’, da Cathy O’Neil, que fala justamente sobre a tecnologia como ferramenta para manutenção das iniquidades que conhecemos hoje. O próximo passo é cuidar das pessoas que estão usando as IAs – e, ao mesmo tempo, sendo usadas por elas”, finaliza.