Im Rahmen des Projektes ALAIT wird das Einsatzrisiko von KI-Technologien in spezifischen Anwendungsfeldern wissenschaftlich analysiert und bewertet sowie die Ergebnisse bis 2027 in zehn Dossiers veröffentlicht. Jedes Dossier beinhaltet die Chancen und Risiken der jeweiligen KI-Technologie im spezifischen Anwendungsgebiet sowie konkrete Empfehlungen für den sicheren und verantwortungsvollen Einsatz in der Praxis. Das erste Dossier behandelt die Anwendung von KI-basierter Diagnose- und Therapieunterstützung in der medizinischen Bildgebung (Medical Imaging).
Der Einsatz von KI in der medizinischen Bildgebung birgt laut ALAIT-Einstufung generell ein hohes Risiko mitunter, weil bei fehlerhaften Systemen und Anwendungen lebensbedrohliche Auswirkungen für betroffene Menschen entstehen können. Gleichzeitig besteht ein hoher Nutzen von KI-basierter Diagnose- und Therapieunterstützung. Für Patient:innen bedeutet das unter anderem die Chance auf frühere und präzisere Diagnosen, etwa bei Tumoren. Das hohe Einsatzrisiko kann durch gezielte Risikoabschätzung und -minimierung reduziert werden. Im Dossier sind dazu sechs konkrete Empfehlungen für die Praxis angeführt.
- Sorgfältige Auswahl der KI-Anwendung und Einforderung von Transparenz seitens der Anbieter:innen
- Prüfung der Leistungsfähigkeit unter realen Bedingungen (AI Model Performance versus Clinical Performance)
- Letztentscheidung durch fachlich kompetente Personen sicherstellen
- Spezifische Kompetenz bei Anwender:innen aufbauen (KI-Literacy)
- Patient:innen über Einsatz von KI informieren
- Laufende Überwachung und Monitoring des KI-Systems