Безопасный и справедливый ИИ в здравоохранении
Обеспечение того, чтобы статистические модели, модели машинного обучения и ИИ, используемые в здравоохранении и социальной помощи, были безопасными, справедливыми, объяснимыми и находились под мониторингом, включая проверку на предвзятость между группами пациентов и соблюдение регулирования медицинских изделий и ИИ.
Уровни
- 1. Осведомлённость
Вы можете:
- объяснить, как модель может навредить пациентам, например из-за предвзятости, дрейфа или чрезмерного доверия к её результатам
- объяснить, почему модели нужно проверять на той популяции, с которой они будут использоваться
- 2. Рабочий
Вы можете:
- измерять качество модели для разных групп пациентов и сообщать о любых различиях
- документировать предполагаемое использование модели, обучающие данные и известные ограничения, например в карточке модели
- вносить доказательства о модели в обоснование клинической безопасности
- 3. Практик
Вы можете:
- планировать вместе с клиническими коллегами валидацию модели, оценку предвзятости и мониторинг в эксплуатации
- решать, когда модель нужно переобучить, ограничить или вывести из использования
- консультировать команды о том, когда модель может регулироваться как медицинское изделие и какие доказательства для этого нужны
- 4. Эксперт
Вы можете:
- устанавливать стандарты организации по обеспечению качества и мониторингу ИИ в здравоохранении
- руководить обеспечением качества моделей высокого риска до и после внедрения
- представлять организацию перед регуляторами и партнёрами по вопросам безопасного и справедливого ИИ
Ближайшие навыки ESCO
Contains ESCO v1.2.1 data (https://esco.ec.europa.eu/). © European Union. Reuse authorised under Commission Decision 2011/833/EU.
Уровни ролей, ожидающие этот навык
| Уровень роли | Роль | Диапазон | Ожидаемый уровень |
|---|---|---|---|
| Старший инженер машинного обучения | Инженер машинного обучения | 7 | Практик |
| Ведущий инженер машинного обучения | Инженер машинного обучения | 8b | Эксперт |
| Стажёр специалиста по data science | Специалист по data science | 4 | Осведомлённость |
| Младший специалист по data science | Специалист по data science | 5 | Осведомлённость |
| Специалист по data science | Специалист по data science | 6 | Рабочий |
| Главный специалист по data science | Специалист по data science | 7 | Практик |
| Ведущий специалист по data science | Специалист по data science | 8a | Практик |
| Руководитель направления data science | Специалист по data science | 8b | Эксперт |