Ethik und KI: Kein Frei­fahrt­schein für unre­flek­tier­te Entwicklungen

Anlässlich ihres Vortrags zum Thema Ethik in der Medizin auf dem 14. Deutschen Wirbelsäulenkongress vom 28. bis 30. November 2019 in München gab Prof. Dr. med. Alena M. Buyx, Direktorin des Instituts für Geschichte und Ethik der Medizin der Technischen Universität München (TUM) und Mitglied des Deutschen Ethikrats, im Gespräch mit der OT eine Einschätzung über Ethik und Künstliche Intelligenz bei der Patientenversorgung.

OT: Was war der Aus­gangs­punkt des Insti­tuts, sich mit dem The­ma Künst­li­che Intel­li­genz und Ethik zu beschäftigen? 

Prof. Dr. Ale­na M. Buyx: Die Auf­ga­be unse­res Insti­tuts ist es, Medi­zin­tech­nik nach ethi­schen Gesichts­punk­ten zu hin­ter­fra­gen und im bes­ten Fal­le dadurch früh­zei­tig auf die Ent­wick­lung der jewei­li­gen Tech­nik posi­tiv ein­wir­ken zu kön­nen. Par­al­lel zum tech­ni­schen Fort­schritt ent­wi­ckelt sich daher auch unser For­schungs­spek­trum. Vor zehn Jah­ren stand etwa das The­ma „Big Data“ auf unse­rer Agen­da, das ent­wi­ckel­te sich in Rich­tung „Machi­ne Lear­ning“ und nun ist es die Künst­li­che Intel­li­genz, die sehr viel Auf­merk­sam­keit in For­schung und Medi­en erfährt und gleich­zei­tig auf beson­ders vie­le Vor­be­hal­te in der Öffent­lich­keit stößt.

OT: Was sind die Kern­fra­gen Ihrer Forschungen? 

Buyx: Unse­ren For­schun­gen lie­gen zwei Fra­gen zugrun­de: Wie kön­nen wir das Poten­zi­al der Künst­li­chen Intel­li­genz in der Pati­en­ten­ver­sor­gung ethisch akzep­ta­bel heben? Wie kön­nen wir sie ethisch ver­ant­wort­lich in den Kli­nik­all­tag über­füh­ren? Dar­aus erge­ben sich vie­le Ein­zel­fra­gen, je nach­dem, um was für eine Ent­wick­lung es sich han­delt. Ganz prak­ti­sche Bei­spie­le sind: Wer trägt in Zukunft die Ver­ant­wor­tung, wenn Algo­rith­men ande­re Dia­gno­sen stel­len oder ande­re The­ra­pie­we­ge emp­feh­len als Ärz­te? Inwie­fern ver­än­dert der Ein­satz von Künst­li­cher Intel­li­genz die medi­zi­ni­sche Arbeits­wei­se und das Arzt/­Pa­ti­en­ten-Ver­hält­nis? Wel­che kli­ni­schen Auf­ga­ben soll­ten von Künst­li­cher Intel­li­genz über­nom­men wer­den dür­fen? Könn­te Künst­li­che Intel­li­genz eine Zwei-Klas­sen-Medi­zin beför­dern? For­schungs­pro­jekt zu einer smar­ten Armprothese

OT: Zu wel­chen Ergeb­nis­sen sind Sie bis­her in Bezug auf die Pati­en­ten­ver­sor­gung gekommen? 

Buyx: Das The­ma Künst­li­che Intel­li­genz in der Kli­nik ist noch weit­ge­hend im expe­ri­men­tel­len Sta­di­um, daher sind unse­re Ergeb­nis­se auch noch vor­läu­fig. Zwei Ergeb­nis­se kann ich aber schon nen­nen. Ers­tens ist es wich­tig, dass Ethi­ker bereits wäh­rend der Ent­wick­lung von sol­chen Inno­va­tio­nen gemein­sam mit Inge­nieu­ren und Pro­gram­mie­rern an einem Tisch sit­zen, damit die ethi­schen Fra­gen von Beginn an in die Ent­wick­lung ein­flie­ßen kön­nen. So ver­mei­den wir kos­ten- und zeit­in­ten­si­ve Schlei­fen bei Erfin­dun­gen auf ihrem Weg in den Pra­xis­all­tag. Zwei­tens: Wir müs­sen unse­re ethi­schen Prin­zi­pi­en run­ter­bre­chen auf die prak­ti­sche Ebe­ne des jewei­li­gen Ein­satz­ge­bie­tes, damit wir über­haupt ethi­sche Hand­lungs­leit­plan­ken zum ein­zel­nen Pro­dukt ent­wi­ckeln kön­nen. Hier ist jeder Fach­be­reich auf­ge­for­dert, die jeweils eige­nen Fra­ge­stel­lun­gen zu erar­bei­ten und mit in die For­schung ein- zubrin­gen. Gera­de haben wir zum Bei­spiel ein neu­es For­schungs­pro­jekt in der Robo­tik unter ande­rem zu einer smar­ten Arm­pro­the­se gestar­tet. Ortho­pä­die­tech­ni­ker wer­den die­se und vie­le ande­re Neue­run­gen in die­sem Bereich am Ende am Pati­en­ten anpas­sen. Wie alle ande­ren Gesund­heitsberufe wer­den sie sich dar­an gewöh­nen müs­sen, dass sie an der einen oder ande­ren Stel­le mit einem Algo­rith­mus zusam­men­ar­bei­ten müs­sen oder die­ser gar ein­zel­ne ihrer Auf­ga­ben über­nimmt. Daher ist es wich­tig, dass sich die Gesund­heits­be­ru­fe Gedan­ken zum ethi­schen Umgang mit Inno­va­tio­nen in ihrem jewei­li­gen Umfeld machen und die­se auch in die Debat­te einbringen.

OT: Wie ste­hen Sie zu der The­se, dass es eine mora­li­sche Ver­ant­wor­tung sei, tech­ni­sche Ent­wick­lun­gen zu ver­fol­gen und in die Gesund­heits­ver­sor­gung ein­zu­be­zie­hen, wenn sie den Men­schen helfen? 

Buyx: Das sehe ich ähn­lich. Das Feld der Künst­li­chen In­telligenz ver­spricht bei­spiels­wei­se ein gro­ßes Poten­zi­al für eine frü­he­re und genaue­re Dia­gnos­tik. Wir müs­sen uns aus Sicht der ärzt­li­chen Für­sor­ge­pflicht also eher recht­fer­ti­gen, wenn wir sol­che Inno­va­tio­nen ableh­nen. Ethik soll­te kein pau­scha­ler Hemm­schuh für Inno­va­tio­nen sein. Ver­ste­hen Sie mich aber nicht falsch – das ist kein Frei­fahrt­schein für unre­flek­tier­te Ent­wick­lung. Im Gegen­teil, es geht immer wie­der um Ver­ant­wor­tung gegen­über dem Pati­en­ten. Des­halb plä­die­ren wir für „Embed­ded Ethics“, für die Einbe­ziehung von Ethi­kern bereits in der expe­ri­men­tel­len Pha­se von Neu­ent­wick­lun­gen. So kön­nen wir gro­be ethi­sche Fehl­ent­schei­dun­gen früh­zei­tig verhindern.

OT: Wer legt fest, wel­che Inno­va­tio­nen im Bereich Künst­li­che Intel­li­genz aus ethi­scher Sicht grenz­wer­tig oder ‑über­schrei­tend sind? 

Buyx: Es gibt da nicht die eine höchs­te Instanz. Institutio­nen wie der Deut­sche Ethik­rat kön­nen über­grei­fen­de Emp­fehlungen für Poli­tik­ge­stal­tung geben, aber letzt­lich ent­scheidet bei jeder kli­ni­schen Stu­die die jeweils zustän­di­ge Ethik­kom­mis­si­on, ob das kon­kre­te Pro­jekt den ethi­schen Ansprü­chen an ver­ant­wort­li­che For­schung ent­spricht. Das ist auch rich­tig so, weil eben hin­ter jedem Pro­dukt, jeder Dienst­leis­tung vie­le ethi­sche Fra­ge­stel­lun­gen ste­hen, die nicht alle über­grei­fend beant­wor­tet wer­den können.

OT: An wen kön­nen sich Inha­ber oder Geschäfts­füh­rer von Sani­tätshäusern bei ethi­schen Fra­gen jen­seits ihrer Berufs­ver­bän­de wenden? 

Buyx: Ich emp­feh­le den Kol­le­gen bei Unsi­cher­hei­ten, Kon­takt mit ihrer zustän­di­gen Ethik­kom­mis­si­on bei der Lan­desärztekammer auf­zu­neh­men, oder das Insti­tut für Ethik in der Medi­zin an der jewei­li­gen Uni­ver­si­tät anzusprechen.

Die Fra­gen stell­te Ruth Justen.

Tei­len Sie die­sen Inhalt
Anzeige