IA responsável na saúde: antes da tecnologia, a estratégia, a governança e a sustentabilidade

IA responsável na saúde: antes da tecnologia, a estratégia, a governança e a sustentabilidade

Em artigo exclusivo para Futuro da Saúde, Rita Ragazzi faz uma análise profunda sobre como as instituições deveriam pensar a aplicação de IA na saúde

By Published On: 15/05/2024
IA responsável na saúde - Artigo de Rita Ragazzi

Foto: Adobe Stock Image

Na história da medicina moderna, há diversas descobertas fantásticas capazes de mudar o curso ou a maneira que encaramos uma determinada doença ou conduta clínica: uma terapia inovadora como a que vimos com os tratamentos para HIV ou para Hepatite C, a própria vacina para a Covid-19 testada e aprovada em tempo recorde, as terapias de edição gênica, extraordinárias desde o conceito até a sua aplicação complexa e extremamente precisa. Mas creio que pouquíssimas tiveram tanta repercussão e expectativa de mudar a maneira com a qual encaramos a prática da medicina de maneira tão abrangente como tem sido o caso das tecnologias de inteligência artificial, especialmente após os avanços da IA generativa. Um ponto, porém, ainda aparece muito tímido nas dezenas de publicações que recebo semanalmente: o uso responsável de IA.

Todas as semanas somos bombardeados com as possíveis aplicações dos LLMs na medicina e como modelos de Gen AI têm ou teriam ultrapassado a capacidade humana em diagnosticar condições clínicas complexas, em sanar dúvidas de pacientes, auxiliar na atividade cotidiana de monitoramento de pacientes críticos, e até prover suporte empático para pacientes. E um dos principais temas discutidos sobre o uso eminente da IA generativa na medicina é a sua assertividade e o quanto os modelos podem “alucinar” – e, nestes casos, como identificar tais erros. Claro, a preocupação sobre alucinação está relacionada ao uso responsável da IA, contudo o conceito vai muito além de identificar respostas imprecisas ou com falta de subsídio científico.

Enquanto legisladores no mundo todo lutam para poder elaborar regras e leis claras e abrangentes, que permitam o avanço da tecnologia suportando a evolução da sociedade e dos mercados e, ao mesmo tempo, garantam a liberdade, mitigando riscos à própria sociedade, não será meu objetivo neste artigo legislar ou mostrar o caminho, mas trazer uma perspectiva sobre como o uso responsável dialoga com o mundo dos negócios.

Estamos muito longe de uma legislação definitiva neste aspecto e certamente o uso de IA na saúde já é parte do nosso dia-dia. Isto posto, como então trabalhar e competir no mercado, de maneira ética, usando IA?

IA responsável na saúde

Vamos começar pelos conceitos mais básicos. A IA responsável aplicada aos negócios vai além da mitigação de riscos. É o processo de desenhar, desenvolver e implementar inteligência artificial de maneira a obter resultados que sejam justos aos clientes e à sociedade. Trata-se também de habilitar empresas e pessoas para prosperar em um futuro potencializado por IA. Democratizar o acesso à IA, seja às organizações, pessoas e ambiente público, e desenvolver sistemas de forma sustentável e ética, usando a própria tecnologia para identificar falhas e brechas na idoneidade de soluções.

Antes de se pensar nas especificidades ou pilares que garantem que os sistemas de IA sejam usados de forma eficaz, ética, segura e sustentável, precisamos pensar e posicionar o uso responsável de IA como parte da estratégia de diferenciação competitiva da organização.

E aí quero colocar uma provocação: antes da tecnologia deve vir a estratégia, a governança e a sustentabilidade – esta última traduzida como valor para o paciente e para o shareholder.

A estratégia define, dá direção e propósito. Contudo, nenhuma estratégia, especialmente de uso responsável de IA pode existir sem uma sólida governança, sem a estruturação. E finalmente, nenhum negócio pode viver sem sustentabilidade financeira.

Pronto, temos aqui a tríade de sustentação da IA no mundo dos negócios e na saúde:

Mapa Mental - Uso de IA responsável na saúde - Rita Ragazzi

ESTRATÉGIA

Considerando a miríade de ferramentas e tecnologias disponíveis no mercado e seus diversos provedores, as organizações de saúde devem realmente ser cautelosas em implementar e adotar tecnologias preditivas ou de suporte à decisão clínica que se baseiem em IA. Isso porque, sim, há risco de segurança de pacientes, de segurança dos dados sensíveis, assim como risco reputacional para suas respectivas instituições.

A estratégia de aplicação de IA deve estar intimamente ligada à estratégia da própria organização. Uma instituição ao pensar no uso consistente e estruturado de IA precisa definir o que espera da aplicação, comparativamente à não adoção, assim como seu grau de maturidade para aplicá-la e ter benefícios que superem os riscos. Esta é uma etapa fundamental e crítica e deve ser pensada muito antes da definição de times e ferramentas especificas de aplicação de IA. Definir se os objetivos (e quais objetivos) da organização poderiam ser beneficiados por uma nova tecnologia e se é factível alcançá-los de maneira mais eficiente se aplicados de forma imediata ou midiática são questionamentos extremamente relevantes, que nem sempre os gestores em um momento de hype de uma nova tecnologia têm a tranquilidade ou a audácia de fazer.

O passo que se segue à definição e alinhamento da estratégia de adoção da tecnologia é o desenho de abordagens distintas de IA para a área assistencial e para a área operacional (sim, distintas, pois a aplicação, riscos e esforço são diametralmente diferentes). Tais abordagens devem incluir o estabelecimento métricas de sucesso baseadas no valor gerado para o negócio e para os pacientes.

Um dos maiores fatores de sucesso da implementação de qualquer tecnologia (não seria diferente para IA) é a objetividade das metas e da visão que a organização tem de onde se quer chegar, em um escopo de tempo e esforço pré-definidos. Uma pesquisa de 2022 da Gartner intitulada “Pesquisa de ROI de casos de uso de IA” afirma que as principais barreiras que impedem ampla adoção de IA nas organizações é a incapacidade de se medir adequadamente o valor versus os riscos e custos de IA. Na saúde isto se torna ainda mais desafiador, pois somos um mercado que, paradoxalmente às nossas origens científicas, não tem o rigor de medir adequadamente desfechos e custos versos protocolos de aplicação, seja de tecnologia, seja de tratamentos clínicos.

Finalmente, dentro do pilar da estratégia, é necessário estruturar um pipeline de casos de uso que construa a ponte entre os dois elos a estratégia e o valor: casos de uso que sustentam a estratégia da organização e que demonstrem o valor gerado através das métricas estabelecidas.

GOVERNANÇA  

Estruturar uma governança de IA envolve o estabelecimento de papéis, responsabilidades, limites éticos, comitês de aprovação e acompanhamento de sua evolução. Passa por governança de dados e se expande para o estabelecimento de princípios de desenvolvimento e aplicação, construindo todo o arcabouço que habilitará a capacidade de gerar valor econômico para a instituição através de diferencial competitivo.

A governança de dados visa construir uma fundação adequada – infraestrutura, arquitetura para os dados, segurança by design – a fim de garantir que os dados estejam acessíveis, bem organizados, mantidos com qualidade e integridade quando armazenados e transacionados.

A governança da estratégia digital (incluindo adoção de IA) alinha as prioridades estratégicas às ações de execução tática, garante a conformidade com regulamentação e padrões éticos, define estruturas para garantir limites para além dos quais, a organização não seguirá com os casos de uso ou implantação de tecnologia.

A governança é a ferramenta que deve estabelecer e garantir a implantação de frameworks de uso e desenvolvimento responsável de IA e customizá-los para a realidade de cada instituição.

PRINCÍPIOS BÁSICOS DE IA RESPONSÁVEL

Quais os princípios básicos da aplicação responsável de IA na saúde? Existem diversos estudos, publicações sobre o tema e os nomes podem variar, mas basicamente poderiam ser resumidos em 7 princípios:

  1. Transparência e explicabilidade
  2. Desenvolvimento e implantação confiáveis
  3. Qualidade e integridade de dados
  4. Gestão do conhecimento
  5. Foco e centro no paciente
  6. Equidade e inclusão
  7. Proteção e segurança
  8. Conformidade regulatória
1. Transparência e Explicabilidade

Governança eficiente garante que os sistemas de IA sejam projetados e operados de forma que suas decisões e outcomes sejam transparentes e explicáveis. Isso inclui a documentação clara de como os modelos são construídos, os dados utilizados e como as decisões são tomadas. A implementação de padrões de desenvolvimento claros e a revisão periódica dos sistemas ajudam a criar o arcabouço de confiança nas ferramentas de IA aplicadas.

2. Desenvolvimento e Implantação Confiáveis

Uma governança sólida assegura que os sistemas de IA sejam desenvolvidos e implantados de maneira confiável, com controles rigorosos de qualidade e segurança, segundo um modelo secure by design. Aqui, são vitais os testes, validação e auditorias periódicas para identificar e mitigar possíveis falhas ou riscos operacionais, garantindo a confiabilidade dos sistemas em ambientes assistenciais.

3. Qualidade e Integridade de Dados

A governança desempenha um papel crucial na manutenção da qualidade e integridade dos dados. Políticas bem estruturadas desde a coleta, armazenamento, processamento e compartilhamento de dados são essenciais para prevenir a corrupção de dados e garantir que as informações utilizadas pela IA sejam precisas e representativas.

4. Gestão do conhecimento

A governança deve assegurar e incentivar a gestão do conhecimento como um pilar fundamental, dando o guidance para que informações e insights gerados pelos sistemas de IA sejam sistematicamente capturados, documentados e disponibilizados para futura referência e aprendizado. Este princípio envolve a criação de bases de dados de conhecimento, a implementação de sistemas de aprendizagem e melhoria contínua, e a facilitação do compartilhamento de conhecimento entre equipes e instituições.

A gestão de conhecimento é estrutural e complementar à transparência ao assegurar que não apenas os processos e decisões de IA são documentados, mas que também o conhecimento derivado desses processos é acessível e compreensível para todos os stakeholders, promovendo uma maior confiança e adoção dos sistemas. Esse será um dos pilares mais relevantes para o diferencial competitivo que falaremos quando tocarmos o tema de sustentabilidade

5. Foco e Centro no Paciente

IA na saúde deve sempre priorizar o bem-estar do paciente. Isso inclui garantir que os sistemas sejam projetados para agregar valor e melhoria da saúde dos pacientes, inclusive trazer acessibilidade a populações desfavorecidas. Ter como padrão avaliações de impacto no paciente e no sistema de saúde, antes da implantação de soluções baseadas em IA, é altamente desejável.

6. Equidade e Inclusão

Evitar vieses que possam levar a desigualdades nos cuidados de saúde. Isso inclui a utilização de conjuntos de dados diversificados e representativos de população, raça, sexo, condições e determinantes sociais diversos, condições clínicas órfãs, e outros grupos durante o treinamento dos modelos de IA e a implementação de revisões contínuas para identificar e corrigir vieses potenciais.

7. Proteção e Segurança

Proteger informações sensíveis do paciente: políticas de segurança robustas, criptografia de dados e protocolos de resposta a incidentes para proteger contra acessos não autorizados e ataques cibernéticos.

8. Conformidade Regulatória

Finalmente, a governança deve garantir que todos os sistemas de IA estejam em conformidade com as leis e regulamentos locais e internacionais. Isso inclui regulamentos específicos da saúde, como a lei geral de proteção de dados (LGPD).

SUSTENTABILIDADE 

Finalmente, como a aplicação de princípios responsáveis de desenvolvimento de IA podem gerar valor econômico e sustentabilidade?

De maneira precipitada, gestores podem pensar que os esforços para a implantação de uma governança sólida podem ser demasiadamente altos e burocráticos, podendo atrasar e inviabilizar a competitividade com o “peso” de estrutura amplamente monitorada, documentada e estruturada. Contudo, a médio prazo, a governança para se aplicar o uso responsável de IA tem o poder de fortalecer o posicionamento e diferencial competitivo das organizações de saúde e, por consequência, impulsionar o valor econômico.

O uso responsável e ético de IA na saúde tem a potencialidade de alavancar a confiança dos pacientes e dos profissionais de saúde na instituição, trazendo maior número de clientes, fidelização de pacientes e talentos da área médica, além de maior receita e competitividade comercial.

Uma vez que há um maior buy in de pacientes e médicos, isso fortalece lideranças e gera uma espiral positiva e de confiança, aumentando a aceitação de soluções e plataformas assistenciais suportadas por IAs, ampliando a eficiência e trazendo maior rentabilidade e competitividade operacional.

A diferenciação da organização como uma entidade ética e com alto poder de atratividade de clientes e grupos médicos – e com rentabilidade acima da média – torna-se mais atrativa a novos parceiros e investidores. Especialmente os interessados em práticas transparentes e responsáveis, trazendo nova onda de crescimento, fomentado por injeção de recursos externos multiplicando as possibilidades de crescimento do business. E abre espaço a novos modelos de negócio e eventualmente novas áreas de atuação e novas avenidas de receita.

*Rita Ragazzi é líder de saúde da área Advisory para mercados emergentes (Brazil, Australia e Japão) na Avanade, uma joint venture entre Accenture e Microsoft. Com mais de 20 anos de experiência no segmento de saúde, já atuou na maior parte da cadeia de valor da deste segmento, incluindo estratégia, operações, M&A e, atualmente, em estratégia suportada por tecnologia.

Rita Ragazzi
Rita Ragazzi

Líder de saúde da área Advisory para mercados emergentes (Brazil, Australia e Japão) na Avanade, uma joint venture entre Accenture e Microsoft. Com mais de 20 anos de experiência no segmento de saúde, já atuou na maior parte da cadeia de valor da deste segmento, incluindo estratégia, operações, M&A e, atualmente, em estratégia suportada por tecnologia.

About the Author: Rita Ragazzi

Líder de saúde da área Advisory para mercados emergentes (Brazil, Australia e Japão) na Avanade, uma joint venture entre Accenture e Microsoft. Com mais de 20 anos de experiência no segmento de saúde, já atuou na maior parte da cadeia de valor da deste segmento, incluindo estratégia, operações, M&A e, atualmente, em estratégia suportada por tecnologia.

Leave A Comment

Recebar nossa Newsletter

NATALIA CUMINALE

Sou apaixonada por saúde e por todo o universo que cerca esse tema -- as histórias de pacientes, as descobertas científicas, os desafios para que o acesso à saúde seja possível e sustentável. Ao longo da minha carreira, me especializei em transformar a informação científica em algo acessível para todos. Busco tendências todos os dias -- em cursos internacionais, conversas com especialistas e na vida cotidiana. No Futuro da Saúde, trazemos essas análises e informações aqui no site, na newsletter, com uma curadoria semanal, no podcast, nas nossas redes sociais e com conteúdos no YouTube.

Artigos Relacionados

Rita Ragazzi
Rita Ragazzi

Líder de saúde da área Advisory para mercados emergentes (Brazil, Australia e Japão) na Avanade, uma joint venture entre Accenture e Microsoft. Com mais de 20 anos de experiência no segmento de saúde, já atuou na maior parte da cadeia de valor da deste segmento, incluindo estratégia, operações, M&A e, atualmente, em estratégia suportada por tecnologia.