Sicherheit KI-basierter Medizinprodukte gewährleisten

Benannte Stellen legen Leitfäden vor.
ab
Cybersecurity ist existenziell für Medizinprodukte mit digitalen Funktionen.
Künstliche Intelligenz kommt in immer mehr Medizinprodukten zum Einsatz: von der Auswertung bildgebender Verfahren, über die Dosierung von Medikamenten bis hin zur Analyse von Laborwerten. © greenbutterfly, stock.adobe.com
Newsletter­anmeldung

Bleiben Sie auf dem Laufenden. Der MT-Dialog-Newsletter informiert Sie jede Woche kostenfrei über die wichtigsten Branchen-News, aktuelle Themen und die neusten Stellenangebote.


Benannte Stellen legen Leitfäden für die Prüfung KI-basierter Medizinprodukte und deren IT-Sicherheit vor. Grundlage sind insbesondere die geltenden EU-Verordnungen und internationalen Normen und Standards für Medizinprodukte und In-vitro-Diagnostika.

Die vom TÜV-Verband organisierte Interessengemeinschaft der Benannten Stellen für Medizinprodukte in Deutschland (IG-NB) hat einen Fragenkatalog für die Sicherheit von Medizinprodukten mit Künstlicher Intelligenz (KI) vorgelegt. Der Fragenkatalog dient den Sachverständigen als Leitfaden für die komplexe Prüfung von Medizinprodukten mit KI-spezifischen, digitalen Funktionen. Grundlage des Katalogs sind insbesondere die geltenden EU-Verordnungen und internationalen Normen und Standards für Medizinprodukte und In-vitro-Diagnostika. 

Risiken erkennen

„Künstliche Intelligenz kommt in immer mehr Medizinprodukten zum Einsatz: bei der Auswertung bildgebender Verfahren, bei der Dosierung von Medikamenten oder bei der Analyse von Laborwerten und anderer Daten für die Diagnose und Prognose bestimmter Krankheiten“, sagt Mark Küller, Referent für Medizinprodukte beim TÜV-Verband. Neben großen Chancen für Patient:innen wie einer verbesserten Diagnostik und einer effektiveren Behandlung von Krankheiten bestünden bei der Anwendung Künstlicher Intelligenz im medizinischen Bereich aber auch Risiken. Küller: „KI-basierte Systeme in der Medizin müssen sicher sein, um Fehldiagnosen und andere gesundheitliche Gefahren zu vermeiden. Und sie dürfen bestimmte Bevölkerungsgruppen nicht aufgrund von Geschlecht, Hautfarbe oder anderer persönlicher Merkmale benachteiligen.“ Hier setze der Fragenkatalog an.

Prozessorientierter Ansatz erforderlich

Der Fragenkatalog folgt dem Gedanken, dass die Sicherheit KI-basierter Medizinprodukte nur durch einen prozessorientierten Ansatz erreicht werden kann, wobei alle relevanten Prozesse und Phasen des gesamten Lebenszyklus betrachtet werden müssen. Entsprechend stellt der Leitfaden keine spezifischen Anforderungen an die Produkte, sondern an die Prozesse.

KI-spezifischen Anforderungen

Die Fragen betreffen unter anderem generelle KI-spezifische Anforderungen an die Leistungsfähigkeit, die Cybersicherheit, das Risikomanagement, die verwendeten KI-Modelle und das Datenmanagement. „Da bei lernenden KI-Systemen die Qualität der Trainings-, Validierungs- und Testdaten eine entscheidende Rolle für ihre Sicherheit spielt, sind im Katalog unter anderem Fragen zur Menge, Auswahl und Anonymisierung der Daten enthalten“, sagt Küller. Ein weiterer Schwerpunkt betreffe das Labeling von Daten, mit denen diese genauer beschrieben werden. Fehler beim Daten-Labeling können die Qualität eines KI-Systems stark beeinträchtigen. Ein weiterer Schwerpunkt der Fragen liegt auf der klinischen Bewertung der KI-Produkte, mit der ihr medizinischer Nutzen nachgewiesen wird.

Relevanz der IT-Sicherheit 

Ein weiterer Fragenkatalog der IG-NB beschäftigt sich mit der IT-Sicherheit von Medizinprodukten. Die Fragen beschäftigen sich mit den für die IT-Sicherheit relevanten Aspekten unter anderem bei der Produktentwicklung, dem Risikomanagement, dem Passwortschutz oder Update-Prozessen. Küller: „Die Anwendung des Fragenkatalogs unterstützt die Hersteller dabei, die Anforderungen an die digitale Sicherheit von softwarebasierten Medizinprodukten bestmöglich zu erfüllen und die Benannten Stellen, diese bestmöglich zu überprüfen.“

Die Leitfäden für die Sicherheit von Künstlicher Intelligenz und die Cybersecurity von Medizinprodukten sind kostenlos abrufbar.

Quelle: TÜV-Verband e. V. 

Artikel teilen

Online-Angebot der MT im Dialog

Um das Online-Angebot der MT im Dialog uneingeschränkt nutzen zu können, müssen Sie sich einmalig mit Ihrer DVTA-Mitglieds- oder Abonnentennummer registrieren.

Stellen- und Rubrikenmarkt

Möchten Sie eine Anzeige in der MT im Dialog schalten?

Stellenmarkt
Industrieanzeige