QUEM emitiu novas orientações sobre a ética e a governação de grandes modelos multimodais (LMMs) para a sua utilização adequada na promoção e proteção da saúde das populações. LMMs são um tipo de gerador de rápido crescimento inteligência artificial (IA) tecnologia que tem cinco amplas aplicações para a saúde in
1. Diagnóstico e cuidados clínicos, como responder às dúvidas escritas dos pacientes;
2. Uso orientado pelo paciente, como para investigação de sintomas e tratamento;
3. Tarefas administrativas e de escritório, como documentar e resumir visitas de pacientes em registros eletrônicos de saúde;
4. Educação médica e de enfermagem, incluindo proporcionar aos formandos encontros simulados com pacientes, e;
5. Pesquisa científica e desenvolvimento de medicamentos, inclusive para identificação de novos compostos.
No entanto, essas aplicações na área da saúde correm o risco de produzir declarações falsas, imprecisas, tendenciosas ou incompletas, o que pode prejudicar as pessoas que utilizam essas informações na tomada de decisões em saúde. Além disso, os LMMs podem ser treinados com base em dados de má qualidade ou tendenciosos, seja por raça, etnia, ascendência, sexo, identidade de género ou idade. Existem também riscos mais amplos para os sistemas de saúde, tais como a acessibilidade e o custo dos LMMs com melhor desempenho. Os LMMs também podem encorajar o “viés de automação” por parte dos profissionais de saúde e dos pacientes, pelo que são ignorados erros que de outra forma teriam sido identificados ou escolhas difíceis são delegadas indevidamente a um LMM. LMMs, como outras formas de AI, também são vulneráveis a riscos de cibersegurança que podem pôr em perigo as informações dos pacientes ou a fiabilidade destes algoritmos e a prestação de cuidados de saúde de forma mais ampla.
Portanto, para criar LMMs seguros e eficazes, a OMS fez recomendações para governos e desenvolvedores de LMMs.
Os governos têm a responsabilidade primária de estabelecer padrões para o desenvolvimento e implantação de LMMs, e a sua integração e utilização para fins médicos e de saúde pública. Os governos devem investir ou fornecer infraestrutura pública ou sem fins lucrativos, incluindo capacidade de computação e conjuntos de dados públicos, acessíveis a desenvolvedores nos setores público, privado e sem fins lucrativos, que exijam que os usuários adiram a princípios e valores éticos em troca por acesso.
· Utilizar leis, políticas e regulamentos para garantir que os LMMs e aplicações utilizadas nos cuidados de saúde e na medicina, independentemente do risco ou benefício associado ao AI tecnologia, cumprir obrigações éticas e padrões de direitos humanos que afetam, por exemplo, a dignidade, autonomia ou privacidade de uma pessoa.
· Designar uma agência reguladora existente ou nova para avaliar e aprovar LMMs e aplicações destinadas ao uso em cuidados de saúde ou medicina – conforme os recursos permitirem.
· Introduzir auditorias obrigatórias pós-divulgação e avaliações de impacto, inclusive para proteção de dados e direitos humanos, por terceiros independentes quando um LMM for implantado em grande escala. As auditorias e avaliações de impacto devem ser publicadas
e deve incluir resultados e impactos desagregados por tipo de utilizador, incluindo, por exemplo, por idade, raça ou deficiência.
· Os LMMs não são projetados apenas por cientistas e engenheiros. Os potenciais utilizadores e todas as partes interessadas diretas e indiretas, incluindo prestadores de serviços médicos, investigadores científicos, profissionais de saúde e pacientes, devem ser envolvidos desde as fases iniciais da AI desenvolvimento em um design estruturado, inclusivo e transparente e com oportunidades para levantar questões éticas, expressar preocupações e fornecer contribuições para o AI aplicação em consideração.
Os LMMs são projetados para executar tarefas bem definidas com a precisão e confiabilidade necessárias para melhorar a capacidade dos sistemas de saúde e promover os interesses dos pacientes. Os desenvolvedores também devem ser capazes de prever e compreender possíveis resultados secundários.
***
Fonte:
OMS 2024. Ética e governação da inteligência artificial para a saúde: orientação sobre grandes modelos multimodais. Disponível em https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
