A Organização Mundial da Saúde (OMS) publicou documento com lista de considerações para a regulamentação do uso da Inteligência Artificial no âmbito da saúde mental

O objetivo é minimizar os riscos para profissionais e pacientes por meio da adoção de boas práticas já na concepção regulatória.

O texto é resultado dos esforços de uma equipe multidisciplinar de especialistas, reunidos em grupos de trabalho sobre diversos aspectos relacionados às propostas. As deliberações envolveram, desde autoridades regulatórias até pesquisadores, representantes da indústria, profissionais da saúde e políticos.

O documento destaca o potencial revolucionário da Inteligência Artificial para a saúde, com o potencial de melhorar a capacidade de diagnóstico e aumentar, entre outras coisas, a robustez dos ensaios clínicos e tratamentos. “A Inteligência Artificial pode ser benéfica em contextos clínicos que carecem de especialistas, por exemplo, na interpretação de exames de retina ou de imagens radiológicas”, escreveram no documento.

No entanto, pondera os diversos riscos associados, sobretudo com a incorporação em ritmo acelerado de ferramentas cujo funcionamento e desempenho ainda não são totalmente compreendidos. Nas palavras dos autores: “Ao utilizar dados de saúde, os sistemas de AI podem ter acesso a informações pessoais sensíveis, necessitando de quadros jurídicos e de regulamentação robusta para resguardar a privacidade, a segurança e a integridade dos dados.”

IA é uma grande promessa para a saúde

Segundo Tedros A. Ghebreyesus, Ph.D e diretor-geral da OMS, a IA é uma grande promessa para a saúde, mas também apresenta sérios desafios, incluindo a coleta antiética de dados, ameaças à cibersegurança e a amplificação de preconceitos ou desinformações”, pontuou.

As novas orientações apoiarão os países a regulamentar a IA de forma eficaz e a aproveitar o seu potencial, seja no tratamento do câncer ou na detecção da tuberculose, ao mesmo tempo minimizando os riscos, completou Tedros em um comunicado que acompanha o lançamento da publicação.

O documento é dividido em seis áreas temáticas que concentram os principais pontos de atenção no âmbito da regulação da IA: Transparência de todas as etapas do processo, gerenciamento de risco, aplicações pretendidas e validação clínica, qualidade dos dados, privacidade e proteção das informações, e cooperação e engajamento no setor.

O trabalho reforça que, além da importância da gestão de códigos e algoritmos, é preciso também garantir o rigor em relação aos dados inseridos nessas ferramentas.

Os sistemas de IA são construídos e treinados com informações provenientes de diferentes fontes, que vão desde ensaios clínicos até interações dos usuários. Para a OMS, é preciso um esforço regulatório para minimizar os riscos de que esse material acabe reproduzindo preconceitos e vieses existentes nas bases de dados.

O documento também reforça a importância de garantir a privacidade, a proteção e o consentimento dos pacientes.

A publicação, pensada sobre tudo para embasar o processo decisório dos países que integram a OMS, junta-se a outras iniciativas da organização com enfoque no uso crescente das ferramentas de Inteligência Artificial. Em maio passado, a entidade emitiu um alerta sobre os riscos relacionados à adoção precipitada dessas tecnologias, com destaque para a disseminação de informações falsas (fake news) e uso indevido de dados.

Ainda em 2021, antes do lançamento do ChatGPT e de outras plataformas que popularizaram de vez a IA, a OMS publicou um amplo relatório destacando aspectos éticos relacionados com o uso desse tipo de tecnologia no contexto de saúde.

Por fim, lembro que no Brasil temos a Lei Geral de Proteção de Dados Pessoais (LGPD), Lei nº 13.709/2018, que foi promulgada para proteger os direitos fundamentais de liberdade e de privacidade e a livre formação da personalidade de cada indivíduo. A lei fala sobre o tratamento de dados pessoais, dispostos em meio físico ou digital, feito por pessoa física ou jurídica de direito público ou privado, englobando um amplo conjunto de operações que podem ocorrer em meios manuais ou digitais, que também comtempla dados gerados por profissionais da saúde e de pacientes.

Para saber mais:

Organização Mundial da Saúde. Regulatory considerations on artificial intelligence for health Regulatory considerations on artificial intelligence for health https://iris.who.int/handle/10665/373421

Organização Mundial da Saúde. Ethics and governance of artificial intelligence for health https://www.who.int/publications/i/item/9789240029200Lei Geral de Proteção de Dados Pessoais (LGPD) — Ministério do Desenvolvimento e Assistência Social, Família e Combate à Fome (www.gov.br)