Die Projektgruppe „Gesundheit“ der Enquete-Kommission „Künstliche Intelligenz“ (KI) hat kürzlich erste Zwischenergebnisse ihrer Arbeit vorgestellt und Handlungsempfehlungen erarbeitet. SPD-Bundestagsabgeordneter René Röspel ist Obmann der Enquete-Kommission. Im Gespräch mit der OT erklärt er die vorgestellten Ergebnisse mit Blick auf das Fach.
OT: Herr Röspel, die Enquete-Kommission hat darauf verzichtet eine eigene Definition von „Künstlicher Intelligenz“ zu veröffentlichen. Warum?
René Röspel: Die Begriffsdefinition war in der Tat ein sehr umstrittener Punkt in der Enquete-Kommission KI. Unsere 19 Sachverständigen hatten dazu eine Task-Force gegründet, herausgekommen ist ein dreiseitiger Kompromiss im Mantelbericht. Die Experten orientierten sich hier an der Definition der „High-Level-Expert-Group“ der EU. Der Begriff KI-System wurde dementsprechend im Sinne von lernenden KI-Systemen verwendet.
OT: Wie ist Ihre Definition von KI?
Röspel: „KI ist die nächste Stufe der Digitalisierung“, so steht es im Bericht. Bei KI-Systemen handelt es sich um von Menschen konzipierte Hard- und/oder Softwarekomponenten, die unter Verwendung großer Mengen von Daten komplexe Aufgaben lösen können. Bei „Lernenden KI-Systemen“ kann sich die durch Menschen geschaffene Funktionsweise im eigentlichen Betrieb verändern. Uns ging es auch um Versachlichung eines sehr komplexen Themas. Wir wollten weg von diesen Roboter-Phantasien, die bei vielen Menschen Ängste hervorrufen. Die intelligente Nutzung von KI-Systemen kann unseren Alltag in der Tat ein bisschen besser machen, viele kennen das von ihrem Smartphone, oder durch Fahrassistenzsysteme in ihrem Auto. KI, kognitive Systeme und lernende Maschinen sind – anders als die bisher deterministisch programmierten Abläufe – lernfähig und zunehmend in der Lage, Erlerntes auf neue Situationen zu übertragen. Sie können Prozesse planen, Prognosen treffen oder auch mit Menschen interagieren. Aber letztendlich gilt: KI muss dem Menschen dienen, nicht umgekehrt.
OT: KI soll und wird Einzug in alle Lebensbereiche halten. Damit diese Systeme funktionieren, müssen sie mit Daten „gefüttert“ werden. Woher sollen diese Daten im Gesundheitswesen kommen?
Röspel: Mit dem Einsatz von KI im Gesundheitsbereich werden viele Hoffnungen und Chancen verbunden. Ein Großteil der Sorgen und Ängste auf diesem Gebiet trägt allerdings den Namen „Daten“. Genauer gesagt: Gesundheitsdaten, die für den Einsatz Künstlicher Intelligenz die Grundlage sind. Potenzielle negative Szenarien, wie der „gläserne Patient“ und die Folgen detaillierter Prognosen über den eigenen Gesundheitszustand und die Lebenserwartung dominieren hier die gesellschaftliche Diskussion. Wenn diese Daten nicht mit Zustimmung und freiwillig „gewonnen“ werden, fehlt die wesentliche Grundlage des Erfolgs von KI: Vertrauen. Auch hier muss die Politik ihre Verantwortung annehmen und einen rechtlichen Rahmen schaffen, der die Chancen von KI für eine Verbesserung des Gesundheitswesens garantiert. Mit der Datenschutzgrundverordnung (DSGVO) haben wir aber bereits die richtigen Weichen gestellt.
OT: Wo und wie sollen die Daten gepflegt werden?
Röspel: Im Sozialgesetzbuch (SGB V) wird dies bereits jetzt über ein Forschungsdatenzentrum (§ 303d SGB V) geregelt. Hier geht es unter anderem um die Qualitätssicherung der Daten, die Nutzungsberechtigung und um das Verfahren zur Datentransparenz. Auch die Enquete-Kommission hat die wirtschaftliche und gesellschaftliche Nutzung von Daten umfassend erörtert. Da die Verfügbarkeit von Daten eine Grundvoraussetzung für die Entwicklung und den Einsatz von KI-Systemen ist. Allerdings sind zugleich bei der Erhebung, Speicherung, Weitergabe und Auswertung von Daten Grundrechte zwingend zu beachten. Das gilt nicht nur im staatlichen Sicherheitsbereich, wo der rechtsstaatliche Schutz der Bürgerinnen und Bürger vor unverhältnismäßigen Grundrechtseingriffen zu gewährleisten ist. Im privatwirtschaftlichen Bereich ist die DSGVO bei personenbezogenen Daten einzuhalten.
OT: Stichwort Datensicherheit: Wer hat Zugang zu den Patientendaten und wie kann der reguliert werden bzw. soll er überhaupt reguliert werden?
Röspel: Der Zugang zu Daten wird ebenfalls im SGB V unter §§ 303e und 307 reguliert. Hier werden die Zugangsberechtigungen zu Gesundheitsdaten klar und umfassend geregelt. Im Übrigen hat die Enquete in ihrem Bericht grundsätzlich die durch die DSGVO erreichte Balance zwischen Datenschutz und Innovation betont. Rechtsunsicherheiten, die sich bei der Interpretation der DSGVO-Vorschriften mit Blick auf die Funktionsweise von KI-Systemen noch ergeben, sollten geklärt werden. Die Grundprinzipien der DSGVO sollen unberührt bleiben. Die Enquete geht hier sogar noch weiter: Der Versuch, aus anonymisierten Daten Rückschlüsse auf Personen zu ziehen, ist bisher nicht strafbar. Geprüft werden sollte, ob und inwieweit es sinnvoll wäre, das vorsätzliche De-Anonymisieren von Daten unter Strafe zu stellen.
OT: Welche Aufgaben kann die KI im Gesundheitswesen übernehmen? Wo sehen Sie Einstiegshürden?
Röspel: Es gibt bereits jetzt eindrucksvolle Beispiele: Ein moderner MRT-Scan generiert 4.000 Bilder, die ohne KI niemals in der Summe ausgewertet werden könnten. Oder präzisere Diagnosen für PatientInnen: Laut WHO können 30–50 Prozent der Krebstodesfälle durch Früherkennung und Behandlung vermieden werden. Der Einsatz von Künstlicher Intelligenz im Bereich Gesundheit ist zweifellos ein Fortschritt. Doch Fortschritt ist kein Selbstzweck. Der Einsatz von KI soll die Gesundheit der Menschen verbessern, die Qualität im Gesundheitssystem erhöhen, Ärzte und Pfleger entlasten – aber nicht ersetzen — und ihnen mehr Zeit für die Patientinnen und Patienten geben. Der nicht mehr aufzuhaltende technologische Fortschritt mit KI muss zu einem menschenwürdigen und sozialen Fortschritt werden.
OT: Kann zukünftig eine KI-gestützte Prothesenversorgung zur Regelversorgung werden?
Röspel: Die Enquete-Kommission hat sich beispielsweise auch mit den Potenzialen durch den Einsatz „Intelligenter Prothesen“ befasst: Die Forschung zu smarter Prothetik hat eine bionische Handprothese für Körperversehrte entwickelt, die mittels KI-Technologie und einer eingebauten Kamera Objekte treffsicher erkennen und greifen kann. Bisher verbreitete Alternativlösungen zur aktiven Steuerung einer Prothese, wie z. B. durch Betätigung eines unversehrten Brustmuskels, ermöglichen das Ausführen von Bewegungen eines Prothesengelenks in einzelne Richtungen. Im Gegensatz dazu haben auf KI-Technologie basierende Prothesen das Potenzial, mehrere Freiheitsgrade durch Steuersignale aus gemessener Hirnaktivität zu kontrollieren und diese Funktionen auch gelähmten Patientinnen und Patienten, wie solchen, die an amyotropher Lateralsklerose (ALS) leiden, zugänglich zu machen. Menschen mit eingeschränkter motorischer Kontrolle leiden oft am Verlust der Fähigkeit, sich frei zu bewegen oder sogar mit anderen zu kommunizieren. Mittels Gehirn-Computer-Schnittstellen (Brain Computer Interfaces – BCI) und daran angebundener Technologie ist es möglich, diesen Patientinnen und Patienten zumindest teilweise ihre Eigenständigkeit zurückzugeben. Die Steuerung von Prothesen oder stabilisierenden Exoskeletten wird dabei ebenso erforscht wie das Durchdringen eines Locked-in-Zustandes. Durch KI-gestützte Methoden wurde Patientinnen und Patienten mit vollständigem Locked-in-Syndrom erstmals die Kommunikation mit dem Pflegepersonal und der Familie ermöglicht. Die verhältnismäßig geringe Zahl der Betroffenen steht einem umso größeren Leidensdruck gegenüber und macht die Erkundung skalierbarer, kostengünstiger Lösungen umso dringender. Eine Enquete-Kommission gibt allerdings nur Empfehlungen an die Politik. Ob eine KI-gestützte Prothesenversorgung zur Regelversorgung werden soll, muss u.a. der Deutsche Bundestag bewerten und entscheiden.
OT: Wo ziehen Sie für sich eine Grenze, was KI im Gesundheitsalltag betrifft?
Röspel: Die „Grenze“ ziehen der Mensch – und auch der Gesetzgeber. Der Einsatz von KI im Gesundheitswesen ist kein Selbstzweck, sondern soll die Gesundheit der Menschen verbessern, die Qualität im Gesundheitssystem erhöhen, die Gesundheitsberufe entlasten und den dort Beschäftigten mehr Zeit für die Patientinnen und Patienten geben. KI-Verfahren sollen der Bekämpfung von Krankheiten, wie den großen Volkskrankheiten oder seltenen Erkrankungen, dienen, Therapien verbessern und sicherer machen, indem etwa Behandlungsfehler vermindert bzw. vermieden werden. Letztlich müssen medizinische Fehlentscheidungen durch „blindes Vertrauen“ in KI-Lösungen ausgeschlossen werden, die menschliche Kontrolle hat das letzte Wort. KI im Gesundheitswesen soll den Menschen unterstützen, nicht ersetzten.
OT: Wie schätzen Sie die gesellschaftliche Akzeptanz von KI im Gesundheitswesen ein? Ist Deutschland bereit dafür?
Röspel: Laut aktuellen Studien (BitKom 2018) ist die Akzeptanz der Menschen für den Einsatz von KI im Gesundheitswesen schon jetzt höher (etwa 70 Prozent) als beispielsweise im Personal- oder Finanzwesen (etwa 50 Prozent). Vermutlich liegt das daran, dass im Gesundheitssektor mehr Konsens als Dissens besteht. KI-Anwendungen können schneller und präziser riesige Datenpakete auswerten und dadurch dem behandelnden Arzt bei seiner Diagnose viel Zeit ersparen und damit letztendlich dem Patienten helfen. Wer könnte das ablehnen? Die Vorteile einer zunächst abstrakten Technologie sind im Gesundheitswesen für viele Menschen besonders schnell und einfach nachvollziehbar. Wichtig ist, dass vorhandenes Vertrauen nicht verspielt wird und auf Transparenz und Nachvollziehbarkeit geachtet wird.
Die Fragen stellte Heiko Cordes.
- 2‑Schalen-Orthese mit Kondylenabstützung in Carbontechnik zur orthopädischen Schuhversorgung — 4. Oktober 2024
- Orthopädische Versorgung der neuromuskulären Skoliose: Vorteile von biomechanisch optimierten Rumpforthesen am Beispiel des „neuroBrace“-Systems — 4. Oktober 2024
- Rekonstruktion der ersten „Eisernen Hand“ des fränkischen Reichsritters Gottfried (Götz) von Berlichingen (1480 – 1562) — 4. Oktober 2024