QUEM emitiu novas orientações sobre a ética e a governação de grandes modelos multimodais (LMMs) para a sua utilização adequada na promoção e proteção da saúde das populações. LMMs são um tipo de gerador de rápido crescimento inteligência artificial (IA) tecnologia que tem cinco amplas aplicações para a saúde in
1. Diagnóstico e cuidados clínicos, como responder às dúvidas escritas dos pacientes;
2. Uso orientado pelo paciente, como para investigação de sintomas e tratamento;
3. Tarefas administrativas e de escritório, como documentar e resumir visitas de pacientes em registros eletrônicos de saúde;
4. Educação médica e de enfermagem, incluindo proporcionar aos formandos encontros simulados com pacientes, e;
5. Pesquisa científica e desenvolvimento de medicamentos, inclusive para identificação de novos compostos.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Portanto, para criar LMMs seguros e eficazes, a OMS fez recomendações para governos e desenvolvedores de LMMs.
Os governos têm a responsabilidade primária de estabelecer padrões para o desenvolvimento e implantação de LMMs, e a sua integração e utilização para fins médicos e de saúde pública. Os governos devem investir ou fornecer infraestrutura pública ou sem fins lucrativos, incluindo capacidade de computação e conjuntos de dados públicos, acessíveis a desenvolvedores nos setores público, privado e sem fins lucrativos, que exijam que os usuários adiram a princípios e valores éticos em troca por acesso.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Designar uma agência reguladora existente ou nova para avaliar e aprovar LMMs e aplicações destinadas ao uso em cuidados de saúde ou medicina – conforme os recursos permitirem.
· Introduzir auditorias obrigatórias pós-divulgação e avaliações de impacto, inclusive para proteção de dados e direitos humanos, por terceiros independentes quando um LMM for implantado em grande escala. As auditorias e avaliações de impacto devem ser publicadas
e deve incluir resultados e impactos desagregados por tipo de utilizador, incluindo, por exemplo, por idade, raça ou deficiência.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
Os LMMs são projetados para executar tarefas bem definidas com a precisão e confiabilidade necessárias para melhorar a capacidade dos sistemas de saúde e promover os interesses dos pacientes. Os desenvolvedores também devem ser capazes de prever e compreender possíveis resultados secundários.
***
Fonte:
OMS 2024. Ética e governação da inteligência artificial para a saúde: orientação sobre grandes modelos multimodais. Disponível em https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
