PUBLICIDADE

Inteligência Artificial Gerativa (IA): OMS emite novas orientações sobre governança de LMMs

QUEM emitiu novas orientações sobre a ética e a governação de grandes modelos multimodais (LMMs) para a sua utilização adequada na promoção e proteção da saúde das populações. LMMs são um tipo de gerador de rápido crescimento inteligência artificial (IA) tecnologia que tem cinco amplas aplicações para a saúde in 

1. Diagnóstico e cuidados clínicos, como responder às dúvidas escritas dos pacientes; 

2. Uso orientado pelo paciente, como para investigação de sintomas e tratamento; 

3. Tarefas administrativas e de escritório, como documentar e resumir visitas de pacientes em registros eletrônicos de saúde; 

4. Educação médica e de enfermagem, incluindo proporcionar aos formandos encontros simulados com pacientes, e; 

5. Pesquisa científica e desenvolvimento de medicamentos, inclusive para identificação de novos compostos. 

No entanto, essas aplicações na área da saúde correm o risco de produzir declarações falsas, imprecisas, tendenciosas ou incompletas, o que pode prejudicar as pessoas que utilizam essas informações na tomada de decisões em saúde. Além disso, os LMMs podem ser treinados com base em dados de má qualidade ou tendenciosos, seja por raça, etnia, ascendência, sexo, identidade de género ou idade. Existem também riscos mais amplos para os sistemas de saúde, tais como a acessibilidade e o custo dos LMMs com melhor desempenho. Os LMMs também podem encorajar o “viés de automação” por parte dos profissionais de saúde e dos pacientes, pelo que são ignorados erros que de outra forma teriam sido identificados ou escolhas difíceis são delegadas indevidamente a um LMM. Os LMM, tal como outras formas de IA, também são vulneráveis ​​a riscos de cibersegurança que podem pôr em perigo as informações dos pacientes ou a fiabilidade destes algoritmos e a prestação de cuidados de saúde de forma mais ampla. 

Portanto, para criar LMMs seguros e eficazes, a OMS fez recomendações para governos e desenvolvedores de LMMs. 

Os governos têm a responsabilidade primária de estabelecer padrões para o desenvolvimento e implantação de LMMs, e a sua integração e utilização para fins médicos e de saúde pública. Os governos devem investir ou fornecer infraestrutura pública ou sem fins lucrativos, incluindo capacidade de computação e conjuntos de dados públicos, acessíveis a desenvolvedores nos setores público, privado e sem fins lucrativos, que exijam que os usuários adiram a princípios e valores éticos em troca por acesso. 

· Utilizar leis, políticas e regulamentos para garantir que os LMMs e as aplicações utilizadas nos cuidados de saúde e na medicina, independentemente do risco ou benefício associado à tecnologia de IA, cumpram as obrigações éticas e os padrões de direitos humanos que afetam, por exemplo, a dignidade e a autonomia de uma pessoa ou privacidade. 

· Designar uma agência reguladora existente ou nova para avaliar e aprovar LMMs e aplicações destinadas ao uso em cuidados de saúde ou medicina – conforme os recursos permitirem. 

· Introduzir auditorias obrigatórias pós-divulgação e avaliações de impacto, inclusive para proteção de dados e direitos humanos, por terceiros independentes quando um LMM for implantado em grande escala. As auditorias e avaliações de impacto devem ser publicadas 

e deve incluir resultados e impactos desagregados por tipo de utilizador, incluindo, por exemplo, por idade, raça ou deficiência. 

· Os LMMs não são projetados apenas por cientistas e engenheiros. Os potenciais utilizadores e todas as partes interessadas diretas e indiretas, incluindo prestadores de serviços médicos, investigadores científicos, profissionais de saúde e pacientes, devem ser envolvidos desde as fases iniciais do desenvolvimento da IA ​​numa conceção estruturada, inclusiva e transparente e ter oportunidades para levantar questões éticas, expressar preocupações e fornecer informações para a aplicação de IA em consideração. 

Os LMMs são projetados para executar tarefas bem definidas com a precisão e confiabilidade necessárias para melhorar a capacidade dos sistemas de saúde e promover os interesses dos pacientes. Os desenvolvedores também devem ser capazes de prever e compreender possíveis resultados secundários. 

*** 

Fonte: 

OMS 2024. Ética e governação da inteligência artificial para a saúde: orientação sobre grandes modelos multimodais. Disponível em https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***

Equipe SCIEU
Equipe SCIEUhttps://www.ScientificEuropean.co.uk
Scientific European® | SCIEU.com | Avanços significativos na ciência. Impacto na humanidade. Mentes inspiradoras.

Assine nossa newsletter

Para ser atualizado com as últimas notícias, ofertas e anúncios especiais.

Artigos populares

Dexametasona: os cientistas encontraram cura para pacientes com COVID-19 gravemente enfermos?

Dexametasona de baixo custo reduz morte em até um terço...

Superadas barreiras biológicas de reprodução de mamíferos do mesmo sexo

Estudo mostra pela primeira vez filhotes saudáveis ​​de camundongos...

Relembrando Stephen Hawking

''Por mais difícil que a vida possa parecer, sempre há algo...
- Propaganda -
94,539fãsComo
47,687SeguidoresSiga-nos
1,772SeguidoresSiga-nos
30AssinantesSubscrever