医療における安全で公正な AI
保健・ケアで使われる統計モデル、機械学習モデル、AI モデルが、安全で、公正で、説明可能で、継続的に監視されていることを確かにする。患者集団間のバイアスの確認、医療機器および AI に関する規制への対応を含む。
レベル
- 1. 認知
できること:
- モデルがバイアス、ドリフト、出力への過度な依存などを通じて、どのように患者に害を及ぼしうるかを説明する
- モデルを実際に使う集団で検証する必要がある理由を説明する
- 2. 実務
できること:
- 患者集団ごとにモデルの性能を測定し、差があれば報告する
- モデルカードなどで、モデルの想定用途、学習データ、既知の限界を文書化する
- モデルに関する根拠を臨床安全ケースに提供する
- 3. 実践者
できること:
- 臨床の同僚とともに、モデルの検証、バイアス評価、本番での監視を計画する
- モデルをいつ再学習、制限、撤回する必要があるかを判断する
- モデルがいつ医療機器として規制されうるか、どのような根拠が必要かをチームに助言する
- 4. エキスパート
できること:
- ケアにおける AI を保証し、監視するための組織の基準を定める
- 導入の前後に、高リスクのモデルの保証を主導する
- 安全で公正な AI について、規制当局やパートナーに対して組織を代表する
最も近い ESCO スキル
Contains ESCO v1.2.1 data (https://esco.ec.europa.eu/). © European Union. Reuse authorised under Commission Decision 2011/833/EU.
このスキルを期待するロールのレベル
| ロールのレベル | ロール | バンド | 期待されるレベル |
|---|---|---|---|
| トレーニー データサイエンティスト | データサイエンティスト | 4 | 認知 |
| アソシエイト データサイエンティスト | データサイエンティスト | 5 | 認知 |
| データサイエンティスト | データサイエンティスト | 6 | 実務 |
| プリンシパル データサイエンティスト | データサイエンティスト | 7 | 実践者 |
| リード データサイエンティスト | データサイエンティスト | 8a | 実践者 |
| データサイエンス責任者 | データサイエンティスト | 8b | エキスパート |
| シニア 機械学習エンジニア | 機械学習エンジニア | 7 | 実践者 |
| リード 機械学習エンジニア | 機械学習エンジニア | 8b | エキスパート |