As medidas de precaução normalmente aplicadas a qualquer nova tecnologia não estão sendo exercidas de forma consistente em relação às ferramentas de modelo de linguagem grande (LLM), que usam IA para processar dados, criar conteúdo e responder a perguntas, alertou a Organização Mundial da Saúde (OMS ) .
“A adoção precipitada de sistemas não testados pode levar a erros por parte dos profissionais de saúde , causar danos aos pacientes, minar a confiança na IA e, assim, minar ou atrasar os potenciais benefícios e usos de longo prazo de tais tecnologias em todo o mundo”, disse a agência.
Como tal, a agência propôs que essas preocupações fossem abordadas e evidências claras de benefícios fossem medidas antes de seu uso generalizado na rotina de cuidados de saúde e medicina.
Evitando erros relacionados à saúde
Embora entusiasmada com o uso apropriado de tecnologias para apoiar profissionais de saúde, pacientes, pesquisadores e cientistas, a OMS disse que essas novas ferramentas baseadas em IA exigem vigilância , especialmente à luz de plataformas em rápida expansão, como ChatGPT, Bard, BERT e muitas outras que imitam a compreensão, o processamento e a produção da comunicação humana.
Por exemplo, essas novas ferramentas podem gerar respostas que podem parecer confiáveis e plausíveis para um usuário final. O perigo é que essas respostas podem estar completamente incorretas ou conter erros graves, especialmente no que diz respeito a problemas de saúde, disse a OMS.
Eles também podem ser mal utilizados para gerar e disseminar desinformação altamente convincente na forma de conteúdo de texto, áudio ou vídeo que é difícil para o público diferenciar de um conteúdo de saúde confiável.
Aproveitando a IA com segurança
Os riscos devem ser examinados cuidadosamente ao usar essas novas ferramentas para melhorar o acesso a informações de saúde, como uma ferramenta de apoio à decisão ou mesmo para aumentar a capacidade de diagnóstico em ambientes com poucos recursos para proteger a saúde das pessoas e reduzir a desigualdade, disse a OMS.
Comprometida em aproveitar novas tecnologias para melhorar a saúde humana, a OMS recomenda que os formuladores de políticas garantam a segurança e proteção do paciente enquanto as empresas de tecnologia trabalham para comercializar ferramentas LLM.
A agência reiterou a importância da aplicação de princípios éticos e de uma governança adequada. Nesse sentido, a agência de saúde da ONU em 2021 publicou Ética e Governança da Inteligência Artificial para a Saúde antes da adoção do primeiro acordo global sobre a ética da IA.
Texto fonte: ONU NEWS