Relatório destaca o potencial dos grandes modelos multimodais para apoiar diagnósticos, pesquisas e atividades clínicas, mas alerta para riscos relacionados à segurança, privacidade, vieses e desinformação.
Por Rafael Luna
A Organização Mundial da Saúde (OMS) publicou orientações para o desenvolvimento e o uso responsável de grandes modelos multimodais de inteligência artificial na saúde. O documento analisa oportunidades, riscos e medidas de governança para tecnologias capazes de processar diferentes tipos de informação, como textos, imagens e outros dados clínicos.
Segundo a OMS, esses modelos podem ampliar as possibilidades de aplicação da inteligência artificial na assistência médica, na pesquisa científica, na saúde pública e no desenvolvimento de medicamentos. Entretanto, sua adoção exige avaliação rigorosa, regulamentação adequada e acompanhamento contínuo, especialmente porque informações produzidas por sistemas de IA podem parecer confiáveis mesmo quando estão incorretas ou incompletas.
Potencial para apoiar profissionais, pacientes e pesquisadores
O relatório identifica cinco áreas principais nas quais os modelos multimodais podem ser utilizados:
- diagnóstico e cuidado clínico;
- aplicações direcionadas a pacientes e cuidadores;
- atividades administrativas e documentação médica;
- educação de profissionais de medicina e enfermagem;
- pesquisa científica e desenvolvimento de medicamentos.
Na prática clínica, essas ferramentas podem auxiliar na análise de casos complexos, na revisão de diagnósticos de rotina e na interpretação de diferentes fontes de dados. Também podem reduzir parte da carga burocrática dos profissionais, apoiando a elaboração de registros, relatórios e notas clínicas.
Para pacientes e cuidadores, a inteligência artificial pode facilitar o acesso a informações sobre condições de saúde e contribuir para a compreensão de orientações médicas. Na educação, os modelos podem oferecer materiais adaptados às necessidades dos estudantes e simular situações de atendimento. Já na pesquisa, podem apoiar a análise de dados, a revisão de textos científicos e a busca por novas moléculas e medicamentos.
A OMS ressalta, contudo, que esses benefícios ainda precisam ser demonstrados de maneira consistente. Uma tecnologia não deve ser considerada segura, eficaz ou superior às alternativas existentes apenas por utilizar inteligência artificial.
Respostas falsas, vieses e riscos à privacidade estão entre os principais alertas
Entre os riscos destacados pelo relatório estão a geração de informações falsas ou imprecisas, os chamados erros ou “alucinações” dos modelos. Na saúde, uma resposta incorreta pode influenciar decisões clínicas, induzir pacientes a interpretações equivocadas ou comprometer a qualidade da formação profissional.
Outro ponto de atenção é a presença de vieses nos dados de treinamento. Caso determinados grupos, regiões ou populações estejam sub-representados, os sistemas podem produzir resultados menos confiáveis para essas pessoas e ampliar desigualdades já existentes no acesso à saúde.
A proteção dos dados pessoais também ocupa posição central nas recomendações. Informações inseridas em uma ferramenta de IA podem incluir dados clínicos sensíveis e, sem salvaguardas adequadas, estar sujeitas a armazenamento indevido, exposição ou utilização não autorizada.
O relatório também alerta para o chamado viés de automação, que ocorre quando usuários passam a confiar excessivamente nas respostas produzidas por uma tecnologia. Essa dependência pode reduzir a capacidade crítica e, com o tempo, contribuir para a perda de habilidades entre profissionais de saúde.
Outros desafios incluem ataques cibernéticos, dificuldades de acesso em regiões com menor infraestrutura digital, custos de utilização, barreiras linguísticas, impactos sobre o trabalho e a concentração dessas tecnologias em um pequeno número de grandes empresas. A OMS ainda chama atenção para o consumo de energia e água associado ao desenvolvimento e à operação de modelos de grande escala.
Seis princípios devem orientar a inteligência artificial na saúde
Para que a inteligência artificial seja utilizada em benefício da sociedade, a OMS estabelece seis princípios éticos:
- proteger a autonomia humana;
- promover o bem-estar, a segurança e o interesse público;
- assegurar transparência, explicabilidade e compreensão;
- fortalecer a responsabilidade e a prestação de contas;
- garantir inclusão e equidade;
- promover uma inteligência artificial responsiva e sustentável.
Esses princípios devem orientar todo o ciclo de vida das tecnologias, desde a coleta de dados e o treinamento dos modelos até sua integração em serviços de saúde e utilização por profissionais e pacientes.
Supervisão humana e avaliação contínua são indispensáveis
A OMS recomenda que desenvolvedores realizem avaliações de impacto sobre a proteção de dados, mantenham as bases de treinamento atualizadas e informem com transparência quais dados foram utilizados. Pacientes, profissionais de saúde, pesquisadores e outros grupos afetados também devem participar das etapas de concepção e avaliação das tecnologias.
Para os governos, o relatório recomenda a criação ou designação de autoridades capazes de avaliar sistemas de IA destinados à saúde. As análises devem considerar segurança, eficácia, privacidade, direitos humanos, vieses, desempenho e impactos ambientais.
Quando uma aplicação for utilizada para apoiar decisões clínicas, sua adoção experimental deve ocorrer em ambientes autorizados e controlados, com protocolos de segurança e supervisão adequados. A OMS também defende auditorias independentes antes e depois da implementação, além da divulgação pública de seus resultados sempre que possível.
Os profissionais de saúde deverão receber capacitação para compreender as possibilidades e limitações dessas ferramentas, identificar situações de uso inadequado, proteger dados dos pacientes, evitar a confiança automática nas respostas e comunicar claramente quando uma tecnologia de IA tiver participado de uma decisão.
O documento também destaca a necessidade de estabelecer responsabilidades ao longo de toda a cadeia, envolvendo desenvolvedores, fornecedores e instituições que adotam os sistemas. Em caso de dano, devem existir mecanismos que permitam às pessoas afetadas buscar reparação, mesmo quando seja difícil determinar qual participante foi diretamente responsável pelo problema.
Cooperação internacional deve incluir países de diferentes realidades
Como essas tecnologias são desenvolvidas e utilizadas globalmente, a OMS considera necessária a criação de regras internacionais comuns. Esse processo, porém, não deve ser conduzido exclusivamente por países de alta renda ou por grandes empresas de tecnologia.
Países de baixa e média renda, profissionais de saúde, pesquisadores, pacientes e representantes da sociedade civil precisam participar da construção dessas normas. Para a Organização, uma governança mais inclusiva pode evitar que os modelos sejam desenvolvidos apenas para determinados contextos e contribuir para que seus benefícios sejam distribuídos de maneira mais equitativa.
O Laboratório do Futuro reconhece o potencial da inteligência artificial para apoiar a medicina, ampliar capacidades de pesquisa e contribuir para serviços de saúde mais eficientes e acessíveis. Essa transformação, entretanto, deve avançar com o rigor exigido pela área: fundamentada em evidências científicas, proteção de dados, transparência, equidade, responsabilização e supervisão humana. A tecnologia deve fortalecer o trabalho dos profissionais e o cuidado com os pacientes, preservando a segurança, a autonomia e a dignidade das pessoas como princípios inegociáveis.
Fonte: Organização Mundial da Saúde. “Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models”, 2024.