Regulação da inteligência artificial na saúde requer coleta de dados ética e representativa, diz OMS

Novo relatório da Organização Mundial da Saúde defende regulações em seis áreas para tornar uso da nova tecnologia benéfico para pacientes e profissionais de saúde; privacidade e segurança dos dados são pontos de preocupação; potenciais benefícios do uso regulado incluem avanço de abordagens personalizadas. A rápida implementação de tecnologias de inteligência artificial no setor saúde é o foco de uma nova publicação da Organização Mundial da Saúde, OMS. A agência aponta preocupação com a atual falta de compreensão sobre benefícios ou prejuízos aos usuários finais, incluindo profissionais de saúde e pacientes. Lançado na quinta-feira (19), o relatório “Considerações Regulatórias sobre o Uso de Inteligência Artificial na Saúde” enfatiza a importância de estabelecer a segurança e a eficácia dos sistemas de IA, para que sejam disponibilizados de forma apropriada para quem precisa. 

Risco de coleta de dados antiética

Dentre as vantagens da nova tecnologia estão a identificação de potenciais novos medicamentos, aceleração de pesquisas clínicas e a prevenção e previsão de doenças e riscos. Por outro lado, ao usar dados de saúde, os sistemas de IA podem ter acesso a informações pessoais sensíveis. Por isso, a OMS defende a criação de estruturas legais e regulatórias robustas para proteger a privacidade, a segurança e a integridade dos pacientes. O diretor-geral da OMS, Tedros Ghebreyesus, disse que "a inteligência artificial é uma grande promessa para a saúde, mas também vem com sérios desafios, incluindo coleta de dados antiética, ameaças de segurança cibernética e amplificação de vieses ou desinformação". Segundo ele, a nova orientação da OMS apoiará os países “a regular a IA de forma eficaz, a aproveitar o seu potencial, seja no tratamento do câncer ou no diagnóstico da tuberculose, minimizando os riscos." 

Medicina personalizada

A agência de saúde da ONU enfatiza que os cuidados estão se tornando mais centrados no paciente, com abordagens personalizadas para a tomada de decisões. Com base nesta tendência, o uso positivo da IA pode melhorar o bem-estar das pessoas e da população, trazendo mais educação e envolvimento dos pacientes e adesão à medicação, contribuindo com a gestão de doenças, numa abordagem que reforça a individualização e personalização dos cuidados. Com regulações mais claras, a OMS espera que a nova tecnologia contribua para melhorar o diagnóstico médico e complementar os conhecimentos, habilidades e competências dos profissionais de saúde. Por exemplo, a IA pode ser benéfica em ambientes com falta de especialistas médicos, na interpretação de exames de retina e imagens radiológicas, dentre muitas outras possibilidades.

Seis áreas de regulação

Em resposta às crescentes necessidades dos países de gerenciar com responsabilidade o rápido aumento das tecnologias de saúde baseadas em IA, a publicação descreve seis áreas para a regulação. São elas: documentação transparente do ciclo de vida dos produtos desde o desenvolvimento, gestão de riscos, validação externa de dados, qualidade de dados, proteção da privacidade e colaboração entre todas as partes interessadas, incluindo pacientes e profissionais de saúde. A OMS ressalta que os sistemas de IA são complexos e dependem não apenas do código com o qual são construídos, mas também dos dados em que são treinados, que vêm de configurações clínicas e interações do usuário, por exemplo.

Representatividade de gênero, raça e etnia

A regulamentação pode ajudar a gerenciar os riscos de a IA amplificar vieses nos dados de treinamento. Por exemplo, pode ser difícil para os modelos de IA representar com precisão a diversidade das populações, levando a vieses, imprecisões ou mesmo falhas. Para ajudar a mitigar esses riscos, as regulamentações podem ser usadas para garantir que os atributos como gênero, raça e etnia das pessoas apresentadas nos dados de treinamento sejam relatados e os conjuntos de dados sejam intencionalmente tornados representativos. A nova publicação da OMS visa delinear os princípios-chave que os governos e as autoridades reguladoras podem seguir para desenvolver novas orientações ou adaptar as orientações existentes sobre IA a nível nacional ou regional.

Documento na íntegra:World Health Organization. https://iris.who.int/handle/10665/373421 

Imagem:  

Fonte: ONU News / https://news.un.org/pt/story/2023/10/1822142