AI yang aman dan adil dalam layanan kesehatan
Memastikan bahwa model statistik, pembelajaran mesin, dan AI yang digunakan dalam kesehatan dan perawatan aman, adil, dapat dijelaskan, dan dipantau, termasuk memeriksa bias pada berbagai kelompok pasien dan memenuhi regulasi alat kesehatan dan AI.
Tingkat
- 1. Kesadaran
Anda dapat:
- menjelaskan bagaimana sebuah model dapat membahayakan pasien, misalnya melalui bias, pergeseran (drift), atau ketergantungan berlebihan pada keluarannya
- menjelaskan mengapa model perlu divalidasi pada populasi tempat model itu akan digunakan
- 2. Menerapkan
Anda dapat:
- mengukur kinerja model untuk berbagai kelompok pasien dan melaporkan perbedaan apa pun
- mendokumentasikan tujuan penggunaan, data pelatihan, dan batasan yang diketahui dari sebuah model, misalnya dalam kartu model (model card)
- menyumbangkan bukti tentang sebuah model untuk kasus keselamatan klinis
- 3. Praktisi
Anda dapat:
- merencanakan validasi, penilaian bias, dan pemantauan langsung sebuah model bersama rekan klinis
- memutuskan kapan sebuah model perlu dilatih ulang, dibatasi, atau ditarik
- menasihati tim tentang kapan sebuah model dapat diatur sebagai alat kesehatan dan bukti apa yang diperlukannya
- 4. Pakar
Anda dapat:
- menetapkan standar organisasi untuk menjamin dan memantau AI dalam perawatan
- memimpin penjaminan model berisiko tinggi sebelum dan sesudah penerapan
- mewakili organisasi di hadapan regulator dan mitra tentang AI yang aman dan adil
Keterampilan ESCO terdekat
Contains ESCO v1.2.1 data (https://esco.ec.europa.eu/). © European Union. Reuse authorised under Commission Decision 2011/833/EU.
Tingkat peran yang mengharapkan keterampilan ini
| Tingkat peran | Peran | Pita | Tingkat yang diharapkan |
|---|---|---|---|
| Ilmuwan data pemagang | Ilmuwan data | 4 | Kesadaran |
| Ilmuwan data asosiat | Ilmuwan data | 5 | Kesadaran |
| Ilmuwan data | Ilmuwan data | 6 | Menerapkan |
| Ilmuwan data utama | Ilmuwan data | 7 | Praktisi |
| Ilmuwan data pimpinan | Ilmuwan data | 8a | Praktisi |
| Kepala ilmu data | Ilmuwan data | 8b | Pakar |
| Insinyur pembelajaran mesin senior | Insinyur pembelajaran mesin | 7 | Praktisi |
| Insinyur pembelajaran mesin pimpinan | Insinyur pembelajaran mesin | 8b | Pakar |