IA segura e justa na saúde

Original desta referência.

Níveis

1. Noção

Você pode:

• explicar como um modelo pode prejudicar pacientes, por exemplo por viés, deriva ou excesso de confiança no seu resultado
• explicar por que os modelos precisam ser validados na população com a qual serão usados

2. Aplicação

Você pode:

• medir o desempenho do modelo em diferentes grupos de pacientes e comunicar eventuais diferenças
• documentar o uso pretendido de um modelo, seus dados de treinamento e seus limites conhecidos, por exemplo em um cartão do modelo
• contribuir com evidências sobre um modelo para um dossiê de segurança clínica

3. Domínio

Você pode:

• planejar com colegas clínicos a validação, a avaliação de vieses e o monitoramento em produção de um modelo
• decidir quando um modelo precisa ser retreinado, restringido ou retirado
• orientar as equipes sobre quando um modelo pode ser regulamentado como dispositivo médico e quais evidências ele exige

4. Especialista

Você pode:

• definir os padrões da organização para a garantia e o monitoramento da IA no cuidado
• liderar a garantia de modelos de alto risco antes e depois da implantação
• representar a organização perante reguladores e parceiros em matéria de IA segura e justa

Competências do ESCO mais próximas

• principles of artificial intelligence (correspondência ampla)
• data ethics (correspondência ampla)

Contains ESCO v1.2.1 data (https://esco.ec.europa.eu/). © European Union. Reuse authorised under Commission Decision 2011/833/EU.

Níveis de função que exigem esta competência