Leitthema „Künstliche Intelligenz”

 © Prof. Johner Anwendungen der Künstlichen Intelligenz in der Medizintechnik – Hype oder sinnvolle Nutzung einer Zukunftstechnologie?


Anwendungen der Künstlichen Intelligenz in der Medizintechnik weisen viele Vorteile auf, haben ein großes wirtschaftliches Potential und einen hohen potentiellen Nutzen für Patient:innen und Ärzt:innen. Dennoch muss die Markteinführung sorgfältig und kritisch begleitet werden, damit diese Technologie erfolgreich ist und eine hohe Akzeptanz erreicht.

Anwendungen der Künstlichen Intelligenz (KI) tauchen zunehmend in verschiedenen Bereichen der Medizintechnik auf. Dazu zählen vor allem Bildgebung und Radiologie, aber auch in der Robotik für Chirurgie, Pflege, Reha und der Orthopädie ist KI schon präsent. Weitere Anwendungen umfassen die Analyse von EKGs, Haut- und Augenbildern, die Personalisierung von Behandlungen, die Krankheitsdiagnostik, die Therapie, die Medikamentenentwicklung, die Software in Digitalen Gesundheitsanwendungen (DiGAs) und computergestützten Erweiterungen der Realitätswahrnehmung (augmented und vitual reality – AR und VR).

Datenschutz, Deep Learning und Datensätze  

Gleichwohl müssen KI-Anwendungen noch zahlreiche Hürden überwinden. Einerseits hat die Einhaltung aller Datenschutzbestimmungen, einschließlich der Datenschutz-Grundverordnung (DSGVO) im Bereich der Patient:innendaten einen besonderen Stellenwert. Andererseits müssen KI-Anwendungen als Medizinprodukte die Voraussetzungen der Marktzulassung, die sogenannte CE-Zertifizierung, erfüllen. Jeweils im Einzelnen ist zu prüfen, welcher Risiko-Klasse das Produkt zuzuordnen ist und damit die Frage zu beantworten, welche Dokumente und möglicherweise auch klinische Daten vor einer Zulassung vorzulegen sind. Obwohl es bereits viel Wissen über die Programmierung der Algorithmen gibt, stehen viele KI-Entwicklungen noch am Anfang. Das sich anschließende „Machine Learning“ und speziell das „Deep Learning“, das manchmal als die eigentliche Künstliche Intelligenz bezeichnet wird, erfordert insbesondere das „Trainieren“, also das Erlernen von (Erfahrungs-)Wissen, um anhand dieses Wissens selbständige Entscheidungen der Algorithmen vorzubereiten. Die Qualität der Trainingsdaten ist dabei oft sehr unterschiedlich. Es können tatsächliche, reale Patientendaten genutzt werden oder vorhandene Datensätze aus dem Netz, manchmal aus unbekannten Quellen.

Wer trägt die Verantwortung? Wer haftet? 

Darüber hinaus stellt sich die Frage nach der Verantwortung für KI-Entscheidungen im medizinischen Kontext. Möglicherweise werden Karzinome und Metastasen auf CT-Bildern oder Risiken von Herzinfarkten basierend auf EKG-Auswertungen von KI-Systemen besser, schneller und zuverlässiger erkannt, aber wer haftet, wenn Artefakte falsch interpretiert werden und schwerwiegende Folgen für den Patienten haben? Jede einzelne KI-Entscheidung kann nicht vom Arzt überprüft werden, der Arzt muss aber bei bestimmten lebenswichtigen Entscheidungen medizinisch und rechtlich letztlich frei in seiner Entscheidung sein. Für alle Beteiligten, für die Patient:innen, Ärzt:innen, Hersteller, Entwickler und für die Inverkehrbringer muss Rechtssicherheit bestehen, wer für was die Verantwortung hat und letztlich auch haftbar dafür ist. Da die KI möglicherweise eigene Entscheidungen generiert, ist diese Verantwortlichkeit und Haftung nicht immer einfach zu beantworten, muss aber juristisch und für alle transparent geklärt werden.

Die Anwendung von KI in der Medizintechnik basiert auf zukunftsweisenden und innovativen Technologien und hat viele Vorteile, die in der Praxis zunehmend genutzt werden. Gleichzeitig wird von und mit vielen Beteiligten eine Diskussion über die Vor- und Nachteile geführt. Diese Diskussionen sollten transparent und ohne Vorurteile gestaltet sein. Nur so können wir die notwendige Akzeptanz für weitreichende Anwendungen erreichen, von denen viele Betroffene profitieren. Das Forum MedTech Pharma wird sich mit zahlreichen Beiträgen an dieser Diskussion beteiligen.

Sie möchten sich mit Themenvorschlägen und Ideen einbringen? Dann kontaktieren Sie Ihren Ansprechpartner zum Thema "Künstliche Intelligenz in der Medizintechnik", Dr. Dieter Westphal.

Dr. Dieter Westphal
Projektmanager Forum MedTech Pharma e. V.
westphal@medtech-pharma.de