Im Rahmen des Projekts 540 „Einsatz von Künstlicher Intelligenz in medizinischen Diagnose- und Prognosesystemen“ entwickelte das Fraunhofer Heinrich Hertz Institut im Auftrag des BSI prototypische Qualitätsmerkmale für KI-Methoden sowie Trainingsdaten in der medizinischen Diagnostik, basierend auf einem Use Case in der EKG-Diagnostik. Die Anwendung künstlicher Intelligenz in der medizinischen Diagnostik kann die Patientenversorgung durch die frühzeitige Erkennung von Pathologien und einen potenziell verbesserten Behandlungsausgang erheblich verbessern. Die Sicherheit, Erklärbarkeit und Leistungsfähigkeit der KI-Methoden müssen hierbei sowohl für die Patienten als auch die Anwender nachweisbar gewährleistet sein, um einen sicheren und effizienten Betrieb zu ermöglichen und das Vertrauen in die KI-gestützte medizinische Diagnostik zu stärken. Nicht zuletzt aufgrund der voraussichtlichen Einstufung als Hochrisikoanwendung nach der europäischen KI-Verordnung sind dabei besonders hohe Anforderungen an die KI-Methoden zu erfüllen. Bisher stehen keine allgemein verwendeten Prüfwerkzeuge zur Verfügung.

In diesem als Machbarkeitsstudie konzipierten Projekt wird ein möglicher Aufbau von Qualitätsmerkmalen untersucht und durch Feedback medizinischen Personals validiert. Zunächst wird die Architektur vorhandener KI-Methoden und Trainingsdaten im Kontext der EKG-Diagnostik untersucht. Anschließend werden Qualitätsmerkmale ausgearbeitet und Anforderungen an diese bezüglich Sicherheit, Erklärbarkeit und Leistungsfähigkeit in Form von Anforderungsprofilen ausgearbeitet. Die Eignung der KI-Methoden wird abschließend anhand der Anforderungsprofile geprüft, evaluiert und die Anforderungsprofile selbst durch klinisches und technisches Feedback angepasst.