Sichere und faire KI in der Gesundheitsversorgung

Eigens für diese Referenz formuliert.

Stufen

1. Bewusstsein

Sie können:

• erklären, wie ein Modell Patientinnen und Patienten schaden kann, etwa durch Verzerrung, Drift oder übermäßiges Vertrauen in seine Ausgabe
• erklären, warum Modelle an der Population validiert werden müssen, mit der sie genutzt werden

2. Anwendung

Sie können:

• die Modellleistung für verschiedene Patientengruppen messen und Unterschiede berichten
• vorgesehene Verwendung, Trainingsdaten und bekannte Grenzen eines Modells dokumentieren, etwa in einer Modellkarte
• Belege zu einem Modell für einen klinischen Sicherheitsnachweis beisteuern

3. Erfahren

Sie können:

• die Validierung, Verzerrungsbewertung und Live-Überwachung eines Modells mit klinischen Kolleginnen und Kollegen planen
• entscheiden, wann ein Modell neu trainiert, eingeschränkt oder zurückgezogen werden muss
• Teams dazu beraten, wann ein Modell als Medizinprodukt reguliert sein kann und welche Belege es braucht

4. Expertise

Sie können:

• die Standards der Organisation für Absicherung und Überwachung von KI in der Versorgung festlegen
• die Absicherung von Hochrisikomodellen vor und nach der Bereitstellung leiten
• die Organisation zu sicherer und fairer KI gegenüber Aufsichtsbehörden und Partnern vertreten

Nächstliegende Kompetenzen in ESCO

• principles of artificial intelligence (weite Übereinstimmung)
• data ethics (weite Übereinstimmung)

Contains ESCO v1.2.1 data (https://esco.ec.europa.eu/). © European Union. Reuse authorised under Commission Decision 2011/833/EU.

Rollenstufen, die diese Kompetenz erwarten