KI im Gesundheitswesen

„Wie wollen wir in Zukunft leben?“ ist eine der Fragen, der die Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ auf den Grund gehen soll. Der Deutsche Bundestag hatte im Juni 2018 die Einsetzung dieser Kommission beschlossen, im September desselben Jahres nahm ein Teil der insgesamt sechs Arbeitsgruppen seine Arbeit auf.

Die Pro­jekt­grup­pe Gesund­heit der Enquete-Kom­mis­si­on „Künst­li­che Intel­li­genz“ (KI) hat kürz­lich ers­te Zwi­schen­er­geb­nis­se ihrer Arbeit vor­ge­stellt und Hand­lungs­emp­feh­lun­gen erar­bei­tet. SPD-Bun­des­tags­ab­ge­ord­ne­ter René Rös­pel ist Obmann der Enquete-Kom­mis­si­on. Im Gespräch mit der OT erklärt er die vor­ge­stell­ten Ergeb­nis­se mit Blick auf das Fach.

Anzei­ge

OT: Herr Rös­pel, die Enquete-Kom­mis­si­on hat dar­auf ver­zich­tet eine eige­ne Defi­ni­ti­on von „Künst­li­cher Intel­li­genz“ zu ver­öf­fent­li­chen. Warum?

René Rös­pel: Die Begriffs­de­fi­ni­ti­on war in der Tat ein sehr umstrit­te­ner Punkt in der Enquete-Kom­mis­si­on KI. Unse­re 19 Sach­ver­stän­di­gen hat­ten dazu eine Task-For­ce gegrün­det, her­aus­ge­kom­men ist ein drei­sei­ti­ger Kom­pro­miss im Man­tel­be­richt. Die Exper­ten ori­en­tier­ten sich hier an der Defi­ni­ti­on der „High-Level-Expert-Group“ der EU. Der Begriff KI-Sys­tem wur­de dem­entspre­chend im Sin­ne von ler­nen­den KI-Sys­te­men verwendet.

OT: Wie ist Ihre Defi­ni­ti­on von KI?

Rös­pel: „KI ist die nächs­te Stu­fe der Digi­ta­li­sie­rung“, so steht es im Bericht. Bei KI-Sys­te­men han­delt es sich um von Men­schen kon­zi­pier­te Hard- und/oder Soft­ware­kom­po­nen­ten, die unter Ver­wen­dung gro­ßer Men­gen von Daten kom­ple­xe Auf­ga­ben lösen kön­nen. Bei „Ler­nen­den KI-Sys­te­men“ kann sich die durch Men­schen geschaf­fe­ne Funk­ti­ons­wei­se im eigent­li­chen Betrieb ver­än­dern. Uns ging es auch um Ver­sach­li­chung eines sehr kom­ple­xen The­mas. Wir woll­ten weg von die­sen Robo­ter-Phan­ta­sien, die bei vie­len Men­schen Ängs­te her­vor­ru­fen. Die intel­li­gen­te Nut­zung von KI-Sys­te­men kann unse­ren All­tag in der Tat ein biss­chen bes­ser machen, vie­le ken­nen das von ihrem Smart­pho­ne, oder durch Fahr­as­sis­tenz­sys­te­me in ihrem Auto. KI, kogni­ti­ve Sys­te­me und ler­nen­de Maschi­nen sind – anders als die bis­her deter­mi­nis­tisch pro­gram­mier­ten Abläu­fe – lern­fä­hig und zuneh­mend in der Lage, Erlern­tes auf neue Situa­tio­nen zu über­tra­gen. Sie kön­nen Pro­zes­se pla­nen, Pro­gno­sen tref­fen oder auch mit Men­schen inter­agie­ren. Aber letzt­end­lich gilt: KI muss dem Men­schen die­nen, nicht umgekehrt.

OT: KI soll und wird Ein­zug in alle Lebens­be­rei­che hal­ten. Damit die­se Sys­te­me funk­tio­nie­ren, müs­sen sie mit Daten „gefüt­tert“ wer­den. Woher sol­len die­se Daten im Gesund­heits­we­sen kommen?

Rös­pel: Mit dem Ein­satz von KI im Gesund­heits­be­reich wer­den vie­le Hoff­nun­gen und Chan­cen ver­bun­den. Ein Groß­teil der Sor­gen und Ängs­te auf die­sem Gebiet trägt aller­dings den Namen „Daten“. Genau­er gesagt: Gesund­heits­da­ten, die für den Ein­satz Künst­li­cher Intel­li­genz die Grund­la­ge sind. Poten­zi­el­le nega­ti­ve Sze­na­ri­en, wie der „glä­ser­ne Pati­ent“ und die Fol­gen detail­lier­ter Pro­gno­sen über den eige­nen Gesund­heits­zu­stand und die Lebens­er­war­tung domi­nie­ren hier die gesell­schaft­li­che Dis­kus­si­on. Wenn die­se Daten nicht mit Zustim­mung und frei­wil­lig „gewon­nen“ wer­den, fehlt die wesent­li­che Grund­la­ge des Erfolgs von KI: Ver­trau­en. Auch hier muss die Poli­tik ihre Ver­ant­wor­tung anneh­men und einen recht­li­chen Rah­men schaf­fen, der die Chan­cen von KI für eine Ver­bes­se­rung des Gesund­heits­we­sens garan­tiert. Mit der Daten­schutz­grund­ver­ord­nung (DSGVO) haben wir aber bereits die rich­ti­gen Wei­chen gestellt.

OT: Wo und wie sol­len die Daten gepflegt werden?

Rös­pel: Im Sozi­al­ge­setz­buch (SGB V) wird dies bereits jetzt über ein For­schungs­da­ten­zen­trum (§ 303d SGB V) gere­gelt. Hier geht es unter ande­rem um die Qua­li­täts­si­che­rung der Daten, die Nut­zungs­be­rech­ti­gung und um das Ver­fah­ren zur Daten­trans­pa­renz. Auch die Enquete-Kom­mis­si­on hat die wirt­schaft­li­che und gesell­schaft­li­che Nut­zung von Daten umfas­send erör­tert. Da die Ver­füg­bar­keit von Daten eine Grund­vor­aus­set­zung für die Ent­wick­lung und den Ein­satz von KI-Sys­te­men ist. Aller­dings sind zugleich bei der Erhe­bung, Spei­che­rung, Wei­ter­ga­be und Aus­wer­tung von Daten Grund­rech­te zwin­gend zu beach­ten. Das gilt nicht nur im staat­li­chen Sicher­heits­be­reich, wo der rechts­staat­li­che Schutz der Bür­ge­rin­nen und Bür­ger vor unver­hält­nis­mä­ßi­gen Grund­rechts­ein­grif­fen zu gewähr­leis­ten ist. Im pri­vat­wirt­schaft­li­chen Bereich ist die DSGVO bei per­so­nen­be­zo­ge­nen Daten einzuhalten.

OT: Stich­wort Daten­si­cher­heit: Wer hat Zugang zu den Pati­en­ten­da­ten und wie kann der regu­liert wer­den bzw. soll er über­haupt regu­liert werden?

Rös­pel: Der Zugang zu Daten wird eben­falls im SGB V unter §§ 303e und 307 regu­liert. Hier wer­den die Zugangs­be­rech­ti­gun­gen zu Gesund­heits­da­ten klar und umfas­send gere­gelt. Im Übri­gen hat die Enquete in ihrem Bericht grund­sätz­lich die durch die DSGVO erreich­te Balan­ce zwi­schen Daten­schutz und Inno­va­ti­on betont. Rechts­un­si­cher­hei­ten, die sich bei der Inter­pre­ta­ti­on der DSGVO-Vor­schrif­ten mit Blick auf die Funk­ti­ons­wei­se von KI-Sys­te­men noch erge­ben, soll­ten geklärt wer­den. Die Grund­prin­zi­pi­en der DSGVO sol­len unbe­rührt blei­ben. Die Enquete geht hier sogar noch wei­ter: Der Ver­such, aus anony­mi­sier­ten Daten Rück­schlüs­se auf Per­so­nen zu zie­hen, ist bis­her nicht straf­bar. Geprüft wer­den soll­te, ob und inwie­weit es sinn­voll wäre, das vor­sätz­li­che De-Anony­mi­sie­ren von Daten unter Stra­fe zu stellen.

OT: Wel­che Auf­ga­ben kann die KI im Gesund­heits­we­sen über­neh­men? Wo sehen Sie Einstiegshürden?

Rös­pel: Es gibt bereits jetzt ein­drucks­vol­le Bei­spie­le: Ein moder­ner MRT-Scan gene­riert 4.000 Bil­der, die ohne KI nie­mals in der Sum­me aus­ge­wer­tet wer­den könn­ten. Oder prä­zi­se­re Dia­gno­sen für Pati­en­tIn­nen: Laut WHO kön­nen 30–50 Pro­zent der Krebs­to­des­fäl­le durch Früh­erken­nung und Behand­lung ver­mie­den wer­den. Der Ein­satz von Künst­li­cher Intel­li­genz im Bereich Gesund­heit ist zwei­fel­los ein Fort­schritt. Doch Fort­schritt ist kein Selbst­zweck. Der Ein­satz von KI soll die Gesund­heit der Men­schen ver­bes­sern, die Qua­li­tät im Gesund­heits­sys­tem erhö­hen, Ärz­te und Pfle­ger ent­las­ten – aber nicht erset­zen — und ihnen mehr Zeit für die Pati­en­tin­nen und Pati­en­ten geben. Der nicht mehr auf­zu­hal­ten­de tech­no­lo­gi­sche Fort­schritt mit KI muss zu einem men­schen­wür­di­gen und sozia­len Fort­schritt werden.

OT: Kann zukünf­tig eine KI-gestütz­te Pro­the­sen­ver­sor­gung zur Regel­ver­sor­gung werden?

Rös­pel: Die Enquete-Kom­mis­si­on hat sich bei­spiels­wei­se auch mit den Poten­zia­len durch den Ein­satz „Intel­li­gen­ter Pro­the­sen“ befasst: Die For­schung zu smar­ter Pro­the­tik hat eine bio­ni­sche Hand­pro­the­se für Kör­per­ver­sehr­te ent­wi­ckelt, die mit­tels KI-Tech­no­lo­gie und einer ein­ge­bau­ten Kame­ra Objek­te treff­si­cher erken­nen und grei­fen kann. Bis­her ver­brei­te­te Alter­na­tiv­lö­sun­gen zur akti­ven Steue­rung einer Pro­the­se, wie z. B. durch Betä­ti­gung eines unver­sehr­ten Brust­mus­kels, ermög­li­chen das Aus­füh­ren von Bewe­gun­gen eines Pro­the­sen­ge­lenks in ein­zel­ne Rich­tun­gen. Im Gegen­satz dazu haben auf KI-Tech­no­lo­gie basie­ren­de Pro­the­sen das Poten­zi­al, meh­re­re Frei­heits­gra­de durch Steu­er­si­gna­le aus gemes­se­ner Hirn­ak­ti­vi­tät zu kon­trol­lie­ren und die­se Funk­tio­nen auch gelähm­ten Pati­en­tin­nen und Pati­en­ten, wie sol­chen, die an amyo­tro­pher Late­ral­skle­ro­se (ALS) lei­den, zugäng­lich zu machen. Men­schen mit ein­ge­schränk­ter moto­ri­scher Kon­trol­le lei­den oft am Ver­lust der Fähig­keit, sich frei zu bewe­gen oder sogar mit ande­ren zu kom­mu­ni­zie­ren. Mit­tels Gehirn-Com­pu­ter-Schnitt­stel­len (Brain Com­pu­ter Inter­faces – BCI) und dar­an ange­bun­de­ner Tech­no­lo­gie ist es mög­lich, die­sen Pati­en­tin­nen und Pati­en­ten zumin­dest teil­wei­se ihre Eigen­stän­dig­keit zurück­zu­ge­ben. Die Steue­rung von Pro­the­sen oder sta­bi­li­sie­ren­den Exo­ske­let­ten wird dabei eben­so erforscht wie das Durch­drin­gen eines Locked-in-Zustan­des. Durch KI-gestütz­te Metho­den wur­de Pati­en­tin­nen und Pati­en­ten mit voll­stän­di­gem Locked-in-Syn­drom erst­mals die Kom­mu­ni­ka­ti­on mit dem Pfle­ge­per­so­nal und der Fami­lie ermög­licht. Die ver­hält­nis­mä­ßig gerin­ge Zahl der Betrof­fe­nen steht einem umso grö­ße­ren Lei­dens­druck gegen­über und macht die Erkun­dung ska­lier­ba­rer, kos­ten­güns­ti­ger Lösun­gen umso drin­gen­der. Eine Enquete-Kom­mis­si­on gibt aller­dings nur Emp­feh­lun­gen an die Poli­tik. Ob eine KI-gestütz­te Pro­the­sen­ver­sor­gung zur Regel­ver­sor­gung wer­den soll, muss u.a. der Deut­sche Bun­des­tag bewer­ten und entscheiden.

OT: Wo zie­hen Sie für sich eine Gren­ze, was KI im Gesund­heits­all­tag betrifft?

Rös­pel: Die „Gren­ze“ zie­hen der Mensch – und auch der Gesetz­ge­ber. Der Ein­satz von KI im Gesund­heits­we­sen ist kein Selbst­zweck, son­dern soll die Gesund­heit der Men­schen ver­bes­sern, die Qua­li­tät im Gesund­heits­sys­tem erhö­hen, die Gesund­heits­be­ru­fe ent­las­ten und den dort Beschäf­tig­ten mehr Zeit für die Pati­en­tin­nen und Pati­en­ten geben. KI-Ver­fah­ren sol­len der Bekämp­fung von Krank­hei­ten, wie den gro­ßen Volks­krank­hei­ten oder sel­te­nen Erkran­kun­gen, die­nen, The­ra­pien ver­bes­sern und siche­rer machen, indem etwa Behand­lungs­feh­ler ver­min­dert bzw. ver­mie­den wer­den. Letzt­lich müs­sen medi­zi­ni­sche Fehl­ent­schei­dun­gen durch „blin­des Ver­trau­en“ in KI-Lösun­gen aus­ge­schlos­sen wer­den, die mensch­li­che Kon­trol­le hat das letz­te Wort. KI im Gesund­heits­we­sen soll den Men­schen unter­stüt­zen, nicht ersetzten.

OT: Wie schät­zen Sie die gesell­schaft­li­che Akzep­tanz von KI im Gesund­heits­we­sen ein? Ist Deutsch­land bereit dafür?

Rös­pel: Laut aktu­el­len Stu­di­en (Bit­Kom 2018) ist die Akzep­tanz der Men­schen für den Ein­satz von KI im Gesund­heits­we­sen schon jetzt höher (etwa 70 Pro­zent) als bei­spiels­wei­se im Per­so­nal- oder Finanz­we­sen (etwa 50 Pro­zent). Ver­mut­lich liegt das dar­an, dass im Gesund­heits­sek­tor mehr Kon­sens als Dis­sens besteht. KI-Anwen­dun­gen kön­nen schnel­ler und prä­zi­ser rie­si­ge Daten­pa­ke­te aus­wer­ten und dadurch dem behan­deln­den Arzt bei sei­ner Dia­gno­se viel Zeit erspa­ren und damit letzt­end­lich dem Pati­en­ten hel­fen. Wer könn­te das ableh­nen? Die Vor­tei­le einer zunächst abs­trak­ten Tech­no­lo­gie sind im Gesund­heits­we­sen für vie­le Men­schen beson­ders schnell und ein­fach nach­voll­zieh­bar. Wich­tig ist, dass vor­han­de­nes Ver­trau­en nicht ver­spielt wird und auf Trans­pa­renz und Nach­voll­zieh­bar­keit geach­tet wird.

Die Fra­gen stell­te Hei­ko Cordes.

Tei­len Sie die­sen Inhalt
Anzeige