Marco regulatório da IA aprovado pelo Senado classifica uso na saúde como de alto risco; texto segue para a Câmara

Marco regulatório da IA aprovado pelo Senado classifica uso na saúde como de alto risco; texto segue para a Câmara

Texto define processos rigorosos no uso dessa tecnologia na área da saúde, devido ao seu potencial de causar impactos adversos a indivíduos ou grupos

By Published On: 11/12/2024
Marco Regulatório da IA é aprovado pelo Senado e segue para Câmara

No Senado, relatoria do PL n° 2338, de 2023, que regulamenta o uso da IA, ficou a cargo do senador Eduardo Gomes (PL-TO) (esq.)

Após meses parado devido a divergências entre as prioridades do governo e da oposição, o Projeto de Lei n° 2338, de 2023 que regulamenta o uso da inteligência artificial (IA) no Brasil ganhou um novo capítulo com a aprovação do Senado, ocorrida na noite desta terça-feira, 10. O texto aprovado estabelece diretrizes para o avanço da tecnologia no país, tanto do setor público quanto no privado, e especifica o seu uso na saúde, classificando alguns sistemas como de alto risco, o que exigirá processos rigorosos de validação antes de sua implementação. A proposta segue agora para análise da Câmara dos Deputados.

Aprovado por meio de votação simbólica, com apenas as oposições registradas, o texto foca em normas para garantir a segurança do crescimento da IA no Brasil. Entre elas, está a proposta de criação do Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), cujo papel será de supervisionar o uso dessa tecnologia. O texto define, também, cuidados específicos no uso dessa tecnologia na área da saúde, devido ao seu potencial de causar impactos adversos a indivíduos ou grupos. Nestes casos, a proposta sugere a realização de testes antes da implementação da IA em diversos contextos e populações para assegurar sua eficácia e equidade.

Outros elementos que aparecem no texto se referem à transparência com relação ao uso da IA. Os desenvolvedores dos sistemas, por exemplo, devem ser transparentes quanto aos riscos envolvidos na tecnologia, e os usuários precisam ser informados de que estão interagindo com uma IA supervisionada por um ser humano. Também é obrigatório que esses sistemas estejam em conformidade com a Lei Geral de Proteção de Dados (LGPD).

Para Andreia Nunes, CEO da Beyond Health BR e coordenadora do comitê de IA na Saúde da International Association of Artificial Intelligence (I2AI), a Câmara dos Deputados, atuando como casa revisora, deve agora analisar detalhadamente o texto aprovado pelo Senado e sugerir reformulações. “A tramitação na Câmara também possibilita um debate mais amplo e representativo. Como os deputados representam diferentes regiões e grupos eleitorais do país, essas contribuições podem ajudar a adequar o texto às diversas realidades do sistema de saúde brasileiro”, diz.

Cada vez mais presente no setor de saúde, a inteligência artificial tem revolucionado a prestação de serviços, o autocuidado e a organização dos sistemas de saúde. Suas aplicações vão da prevenção ao diagnóstico e tratamento de doenças. Nesse cenário, um estudo da Deloitte estima que a IA pode impulsionar uma oportunidade de mercado de US$ 5 a 7 bilhões no setor de ciências biológicas. Ainda assim, especialistas ressaltam a importância de uma regulamentação rigorosa para garantir que seu uso priorize o benefício dos pacientes.

“Para a saúde, eu vejo como totalmente válido, porque nós já levantamos a ideia de que a IA precisa ser regulamentada. Não se pode deixá-la solta no Brasil”, afirma Marcos Adriano Jota, cirurgião oncológico, gestor do cuidado em oncologia e diretor nacional da Sociedade Brasileira de Cirurgia Oncológica (SBCO). Segundo ele, o grande problema é que a tecnologia evolui muito mais rápido do que os marcos regulatórios. “Nós temos um grande abismo entre a evolução tecnológica no dia a dia e a medida que conseguimos evoluir como projeto de lei, o quanto essas regulações conseguem ser votadas em urgência e aprovadas”, avalia.

No Brasil, o Projeto de Lei da IA tem enfrentado divergências de opiniões e interesses, com muitos defendendo uma regulamentação que não comprometa a inovação e o desenvolvimento tecnológico. Gustavo Macedo, especialista em inteligência artificial, diplomacia científica e inovação, professor no Insper e no IBMEC, ressaltou que as diferentes perspectivas e interesses dentro dos ministérios brasileiros dificultaram a criação de uma abordagem unificada e consistente para a legislação. A necessidade de conciliar esses diversos atores tem sido um desafio na discussão do PL.

“Resta sabermos se os interesses dentro do Brasil estão, de fato, alinhados. Quando acompanhamos a discussão sobre a regulação da inteligência artificial, transparece que não existe consenso dentro do Executivo e, certamente, não há consenso no governo como um todo”, sinaliza.

Histórico do projeto de regulação da IA 

No Brasil, o Projeto de Lei 2.338/2023 foi apresentado em maio de 2023 pelo senador Rodrigo Pacheco (PSD-MG), que preside a Casa. Em agosto de 2023 foi formada uma comissão temporária sobre Inteligência Artificial para coletar dados, realizar audiências públicas e ouvir especialistas para elaborar o texto da legislação. 

O PL estava estagnado no Senado desde julho deste ano, mas ganhou celeridade em 28 de novembro, quando foi apresentado à comissão interna do Senado um novo texto. De acordo com o relator, a versão revisada buscou alcançar um “equilíbrio” entre a proteção dos direitos fundamentais e a criação de condições favoráveis ao avanço tecnológico. A votação do PL, originalmente agendada para 3 de dezembro, foi adiada devido a divergências em dois pontos, sem detalhes sobre os motivos. Uma nova data foi agendada para 5, quando o texto foi finalmente aprovado pela comissão temporária responsável pela discussão do tema, com relatoria de Eduardo Gomes (PL-TO), e depois seguiu para o plenário que aprovou requerimento para votar em regime de urgência.

O parecer positivo da comissão temporária sobre o PL foi alcançado após a consideração de 198 emendas, com 84 delas sendo aprovadas, total ou parcialmente, pelo relator. Eduardo Gomes chegou a revisar seu parecer inúmeras vezes e promoveu diversas negociações para ajustar o projeto às demandas tanto do governo quanto da oposição.

Na opinião de Paula Guedes, pesquisadora do Núcleo Legalite da PUC-RJ e ponto focal do Grupo de Trabalho sobre IA da Coalizão Direitos na Rede, o lobby da Confederação Nacional da Indústria (CNI) e das big techs foi decisivo para atrasar as votações do projeto em julho. “Disseram que o texto era muito pesado, muito restritivo e iria frear a inovação. Esse foi o mote principal”. Em sua avaliação, o texto aprovado na quinta-feira (5) pela comissão temporária da IA continua aquém do ideal, mas constitui um avanço significativo no processo de regulamentação da inteligência artificial.

A regulação abrangerá tanto as IAs públicas quanto privadas, incluindo aquelas com uso comercial e em larga escala no país. Isso implica que, além dos modelos desenvolvidos por órgãos públicos, empresas como startups e grandes gigantes da tecnologia – incluindo Meta, Amazon, Microsoft, OpenAI, entre outras – terão que se adaptar às exigências da lei.

O relator, o senador Eduardo Gomes, ressaltou que o texto demandará atualizações constantes e defendeu uma tramitação mais rápida para as normas relacionadas à tecnologia. “É utopia o Congresso Nacional imaginar que possa legislar sobre o mundo digital com a velocidade de escopo e leis que temos. Sempre estamos com delay, sempre chegamos atrasados”, falou.

Desde o início, a proposta brasileira alinhou-se a diversos princípios do Regulamento de IA da União Europeia, como a abordagem baseada em riscos e a ênfase na proteção dos direitos. No entanto, para Solano de Camargo, professor de Direito Internacional Privado na Faculdade de Direito da USP, a nova versão adotada no Brasil aproxima-se mais do modelo americano, que evita regulamentações excessivas nas fases iniciais da inovação tecnológica. Segundo ele, o texto estabeleceu um regime mais simples, voltado para estimular startups, projetos de interesse público e parcerias público-privadas, criando um ambiente favorável à inovação. Assim, a abordagem brasileira contrasta com o modelo europeu, conhecido por regulamentações mais rigorosas e detalhadas desde os estágios iniciais, frequentemente criticadas por restringirem o avanço tecnológico.

“O Brasil precisa encontrar um equilíbrio entre incentivar a inovação e proteger os direitos fundamentais. O novo texto apresenta avanços, como a flexibilização regulatória para atividades de pesquisa e a exclusão de sistemas de baixo impacto. No entanto, é fundamental que o país não cometa o erro de impor uma regulamentação excessivamente rígida, como o AI Act europeu, que já enfrenta críticas por desestimular pequenos desenvolvedores”, explicou.

O projeto é visto como essencial para posicionar o país como protagonista na regulação global da inteligência artificial. Se aprovado, ele se juntará às nações que já adotaram legislações específicas sobre IA, promovendo uma inovação responsável com foco nos desafios contemporâneos.

Como o atual PL impacta a saúde

Conforme o texto, setores sensíveis, como saúde e segurança, deverão adotar medidas específicas para avaliar os impactos dos algoritmos. Entre elas, está a classificação de determinados sistemas de IA como de alto risco, especialmente os usados em diagnósticos médicos e na previsão de riscos.

Para Andreia Nunes, exemplos de IA na saúde, como sistemas para análise de mamografias e diagnóstico de doenças raras, destacam a importância de avaliações rigorosas que priorizem acurácia, explicabilidade e supervisão humana. O objetivo é reforçar a confiança e garantir segurança jurídica no uso da tecnologia. “Um hospital ou clínica que quer implementar um sistema desse terá que garantir a supervisão humana efetiva, ou seja, o diagnóstico final sempre passará pela mão do médico, no mínimo, o médico radiologista, antes de ser liberado”, ressalta.

Outro ponto decisivo é a proteção de direitos fundamentais, com foco em evitar violações como a invasão de privacidade e a discriminação. Segundo Andreia, é essencial que os pacientes sejam informados sempre que um sistema de IA for usado na análise de seus exames, garantindo mais transparência. Além disso, o médico deve ser capaz de explicar, de forma clara e acessível, como o sistema chegou a determinada decisão ou recomendação de tratamento. Os pacientes também têm o direito de questionar e solicitar revisões de decisões automatizadas que os impactem, promovendo uma maior participação no processo de tratamento.

“Isso traz maior segurança jurídica tanto para as instituições de saúde quanto para os pacientes. Então, hoje, o que já podemos observar? Que os sistemas de IA usados para triagem de pacientes devem ser transparentes e contar com supervisão humana, garantindo que decisões totalmente automatizadas não prejudiquem, sobretudo, os grupos mais vulneráveis”, detalha.

Ainda no campo da saúde, Andreia destacou que as instituições precisarão implementar estruturas sólidas de governança. Isso inclui a avaliação periódica de acurácia e possíveis vieses, além de protocolos específicos para lidar com erros ou falhas. O treinamento contínuo das equipes também será essencial para garantir uma supervisão eficaz dos sistemas de IA. O PL permite o uso de dados anonimizados no treinamento de IA, desde que sejam respeitados os limites éticos e garantida a privacidade dos pacientes.

A proposta estabelece que sistemas que violarem a legislação poderão ser multados em até R$ 50 milhões, conforme a gravidade do caso, e proibidos de realizar testes com a tecnologia por até cinco anos. Na prática, de acordo com o texto, a responsabilidade de implementar programas de educação em IA recai sobre a administração pública, nas esferas federal, estadual e municipal. Isso inclui ações de letramento digital para capacitar os cidadãos a compreender e utilizar a tecnologia, além da inclusão de disciplinas no ensino público que abordem os impactos ambientais e sociais da inteligência artificial.

Marcos Adriano Jota afirma que o PL foi elaborado, em teoria, para beneficiar o usuário, o paciente e o profissional de saúde, ressaltando que todos dependem dessa regulamentação, cada vez mais presente no cotidiano. “Quem utilizar a tecnologia será beneficiado por essa regulamentação. Obviamente, existem outros vieses mercadológicos, mas não devemos nos concentrar nesse aspecto. O ideal é direcionarmos nossa atenção à regulamentação e à proteção de quem usa a tecnologia”, esclarece.

O avanço do projeto no país

Alguns especialistas avaliam que o novo texto sobre a regulamentação da IA no Brasil apresenta um equilíbrio entre avanços e fragilidades, com potencial de impactar a supervisão técnica, a inclusão social e os compromissos ambientais. Para Cynthia Picolo, diretora do Lapin, organização integrante da Coalizão Direitos na Rede, o texto mantém dispositivos importantes, mas as concessões feitas às pressões do setor privado podem comprometer a proteção dos direitos fundamentais e a governança responsável da inteligência artificial no país.

“A criação de data centers ‘sustentáveis’ é uma estratégia de mercado positiva. Contudo, esses incentivos devem ser precedidos por um debate crítico que contemple transparência, mitigação de danos ambientais, eficiência, inclusão e soberania nacional, evitando que o Brasil se limite a ser fornecedor de energia limpa sem obter ganhos reais em desenvolvimento socioeconômico.”

Solano de Camargo defende que a IA tem o potencial para transformar diversos setores, como educação, saúde e indústria. Para o Brasil, a prioridade deve ser criar um ambiente que favoreça o desenvolvimento tecnológico. Mas que, além de incentivar a inovação, a regulamentação brasileira deve abordar questões como direitos autorais, impacto trabalhista nas profissões afetadas pela IA e combate à desinformação. “A nova norma precisa ser clara, eficiente e direcionada para promover o progresso, para que o país esteja preparado para liderar no cenário global de IA”, fala.

Na nova proposta, a proteção dos direitos autorais ganha destaque, determinando que conteúdos usados no treinamento de ferramentas de IA deverão ser remunerados aos titulares.  Além disso, para estimular a inovação, está prevista a aplicação de regras diferenciadas para empresas de pequeno porte.

Outro ponto destacado por Gustavo Macedo é o desafio do Brasil em gerir e garantir a soberania de dados. Atualmente, são mais de 150 milhões de usuários brasileiros na internet, que geram uma grande quantidade de dados, por meio de redes sociais e operações digitais, que aumentam mensalmente. Para o especialista, será preciso aproveitar esse potencial na regulação de IA e na criação de uma estratégia digital que evite o aumento da dependência tecnológica em relação a outros países.

Nesse sentido, na opinião de Andreia Nunes, a votação na Câmara dos Deputados, prevista para 2025, pode desempenhar um papel importante em garantir que as diretrizes estabelecidas sejam claras, executáveis e eficazes em promover tanto a inovação tecnológica quanto a segurança dos pacientes. “O processo na Câmara também representa uma oportunidade única para abordar questões emergentes que ainda não foram completamente contempladas, como a interoperabilidade entre diferentes sistemas de inteligência artificial na saúde, a necessidade de criar padrões técnicos unificados e a formação continuada dos profissionais da saúde para lidar com essas tecnologias”, afirma.

Angélica Weise

Jornalista formada pela UNISC e com Mestrado em Tecnologias Educacionais em Rede pela UFSM. Antes do Futuro da Saúde, trabalhou nos portais Lunetas, Drauzio Varella e Aupa.

About the Author: Angélica Weise

Jornalista formada pela UNISC e com Mestrado em Tecnologias Educacionais em Rede pela UFSM. Antes do Futuro da Saúde, trabalhou nos portais Lunetas, Drauzio Varella e Aupa.

Leave A Comment

Recebar nossa Newsletter

NATALIA CUMINALE

Sou apaixonada por saúde e por todo o universo que cerca esse tema -- as histórias de pacientes, as descobertas científicas, os desafios para que o acesso à saúde seja possível e sustentável. Ao longo da minha carreira, me especializei em transformar a informação científica em algo acessível para todos. Busco tendências todos os dias -- em cursos internacionais, conversas com especialistas e na vida cotidiana. No Futuro da Saúde, trazemos essas análises e informações aqui no site, na newsletter, com uma curadoria semanal, no podcast, nas nossas redes sociais e com conteúdos no YouTube.

Artigos Relacionados

Angélica Weise

Jornalista formada pela UNISC e com Mestrado em Tecnologias Educacionais em Rede pela UFSM. Antes do Futuro da Saúde, trabalhou nos portais Lunetas, Drauzio Varella e Aupa.