Diante da progressiva popularidade dos grandes modelos de linguagem de inteligência artificial (IA), cujo representante mais famoso é o ChatGPT, a Organização Mundial da Saúde (OMS) emitiu um alerta sobre os potenciais riscos relacionados à adoção precipitada desse tipo de ferramenta na saúde, como disseminação de informações falsas e uso indevido de dados. A entidade aconselhou o uso ético das plataformas e pediu cautela aos profissionais da área.
Embora se diga “entusiasmada com o uso apropriado de tecnologias para apoiar profissionais de saúde, pacientes, pesquisadores e cientistas”, a organização afirma que as medidas de precaução normalmente adotadas diante de qualquer nova ferramenta não estão sendo aplicadas de forma consistente para os novos modelos de linguagem. “A adoção precipitada de sistemas não testados pode levar a erros por parte dos profissionais de saúde, causar danos aos pacientes, minar a confiança na IA e, assim, diminuir (ou atrasar) os potenciais benefícios e usos de longo prazo de tais tecnologias em todo o mundo”, destacou a entidade, em um comunicado público.
Pontos preocupantes
A OMS lista uma série de preocupações relacionadas ao tema, começando pela escolha dos dados usados para treinar as ferramentas, que podem ser tendenciosos, enganosos ou imprecisos, com potencial para causar “riscos à saúde, à equidade e à inclusão”.
Já as respostas geradas por IA para questões relacionadas à saúde, ainda que aparentemente confiáveis e plausíveis, “podem estar completamente incorretas ou conter erros graves”.
A OMS também referiu preocupações em relação à privacidade e ao consentimento para o tratamento dos dados processados pelas ferramentas de IA, além da possibilidade de utilização dessas plataformas para “gerar e disseminar desinformação altamente convincente” na área de saúde.
Recomendações da OMS
“A OMS recomenda que os formuladores de políticas [públicas] garantam a segurança e a proteção do paciente enquanto as empresas de tecnologia trabalham para comercializar os modelos de linguagem”, pede a organização.
Ainda em junho de 2021, mais de um ano antes da explosão de popularidade dessas ferramentas, a entidade publicou um extenso relatório [1] sobre a utilização ética da IA no universo da saúde.
O documento já apontava para alguns riscos relacionados ao uso não regulamentado da IA em contexto clínico, o que poderia “subordinar os direitos e interesses de pacientes e comunidades aos poderosos interesses comerciais de empresas de tecnologia ou aos interesses de governos em vigilância e controle social".
O relatório também defende a necessidade de treinar as habilidades digitais dos profissionais de saúde, garantindo que tenham os conhecimentos necessários caso necessitem utilizar as novas tecnologias nos processos de tomada de decisão.
Desde o fim de 2022, com o lançamento ao público de diversas plataformas de IA intuitivas e simplificadas, a possibilidade de incorporação dessas ferramentas na prática clínica passou a ser amplamente discutida.
Siga o Medscape em português no Facebook, no Twitter e no YouTube
Créditos: Imagem principal: Dreamstime
Medscape Notícias Médicas © 2023 WebMD, LLC
Citar este artigo: OMS alerta para riscos do uso indiscriminado na saúde de ferramentas de IA não testadas - Medscape - 25 de mai de 2023.
Comente