OT: Was war der Ausgangspunkt des Instituts, sich mit dem Thema Künstliche Intelligenz und Ethik zu beschäftigen?
Prof. Dr. Alena M. Buyx: Die Aufgabe unseres Instituts ist es, Medizintechnik nach ethischen Gesichtspunkten zu hinterfragen und im besten Falle dadurch frühzeitig auf die Entwicklung der jeweiligen Technik positiv einwirken zu können. Parallel zum technischen Fortschritt entwickelt sich daher auch unser Forschungsspektrum. Vor zehn Jahren stand etwa das Thema „Big Data“ auf unserer Agenda, das entwickelte sich in Richtung „Machine Learning“ und nun ist es die Künstliche Intelligenz, die sehr viel Aufmerksamkeit in Forschung und Medien erfährt und gleichzeitig auf besonders viele Vorbehalte in der Öffentlichkeit stößt.
OT: Was sind die Kernfragen Ihrer Forschungen?
Buyx: Unseren Forschungen liegen zwei Fragen zugrunde: Wie können wir das Potenzial der Künstlichen Intelligenz in der Patientenversorgung ethisch akzeptabel heben? Wie können wir sie ethisch verantwortlich in den Klinikalltag überführen? Daraus ergeben sich viele Einzelfragen, je nachdem, um was für eine Entwicklung es sich handelt. Ganz praktische Beispiele sind: Wer trägt in Zukunft die Verantwortung, wenn Algorithmen andere Diagnosen stellen oder andere Therapiewege empfehlen als Ärzte? Inwiefern verändert der Einsatz von Künstlicher Intelligenz die medizinische Arbeitsweise und das Arzt/Patienten-Verhältnis? Welche klinischen Aufgaben sollten von Künstlicher Intelligenz übernommen werden dürfen? Könnte Künstliche Intelligenz eine Zwei-Klassen-Medizin befördern? Forschungsprojekt zu einer smarten Armprothese
OT: Zu welchen Ergebnissen sind Sie bisher in Bezug auf die Patientenversorgung gekommen?
Buyx: Das Thema Künstliche Intelligenz in der Klinik ist noch weitgehend im experimentellen Stadium, daher sind unsere Ergebnisse auch noch vorläufig. Zwei Ergebnisse kann ich aber schon nennen. Erstens ist es wichtig, dass Ethiker bereits während der Entwicklung von solchen Innovationen gemeinsam mit Ingenieuren und Programmierern an einem Tisch sitzen, damit die ethischen Fragen von Beginn an in die Entwicklung einfließen können. So vermeiden wir kosten- und zeitintensive Schleifen bei Erfindungen auf ihrem Weg in den Praxisalltag. Zweitens: Wir müssen unsere ethischen Prinzipien runterbrechen auf die praktische Ebene des jeweiligen Einsatzgebietes, damit wir überhaupt ethische Handlungsleitplanken zum einzelnen Produkt entwickeln können. Hier ist jeder Fachbereich aufgefordert, die jeweils eigenen Fragestellungen zu erarbeiten und mit in die Forschung ein- zubringen. Gerade haben wir zum Beispiel ein neues Forschungsprojekt in der Robotik unter anderem zu einer smarten Armprothese gestartet. Orthopädietechniker werden diese und viele andere Neuerungen in diesem Bereich am Ende am Patienten anpassen. Wie alle anderen Gesundheitsberufe werden sie sich daran gewöhnen müssen, dass sie an der einen oder anderen Stelle mit einem Algorithmus zusammenarbeiten müssen oder dieser gar einzelne ihrer Aufgaben übernimmt. Daher ist es wichtig, dass sich die Gesundheitsberufe Gedanken zum ethischen Umgang mit Innovationen in ihrem jeweiligen Umfeld machen und diese auch in die Debatte einbringen.
OT: Wie stehen Sie zu der These, dass es eine moralische Verantwortung sei, technische Entwicklungen zu verfolgen und in die Gesundheitsversorgung einzubeziehen, wenn sie den Menschen helfen?
Buyx: Das sehe ich ähnlich. Das Feld der Künstlichen Intelligenz verspricht beispielsweise ein großes Potenzial für eine frühere und genauere Diagnostik. Wir müssen uns aus Sicht der ärztlichen Fürsorgepflicht also eher rechtfertigen, wenn wir solche Innovationen ablehnen. Ethik sollte kein pauschaler Hemmschuh für Innovationen sein. Verstehen Sie mich aber nicht falsch – das ist kein Freifahrtschein für unreflektierte Entwicklung. Im Gegenteil, es geht immer wieder um Verantwortung gegenüber dem Patienten. Deshalb plädieren wir für „Embedded Ethics“, für die Einbeziehung von Ethikern bereits in der experimentellen Phase von Neuentwicklungen. So können wir grobe ethische Fehlentscheidungen frühzeitig verhindern.
OT: Wer legt fest, welche Innovationen im Bereich Künstliche Intelligenz aus ethischer Sicht grenzwertig oder ‑überschreitend sind?
Buyx: Es gibt da nicht die eine höchste Instanz. Institutionen wie der Deutsche Ethikrat können übergreifende Empfehlungen für Politikgestaltung geben, aber letztlich entscheidet bei jeder klinischen Studie die jeweils zuständige Ethikkommission, ob das konkrete Projekt den ethischen Ansprüchen an verantwortliche Forschung entspricht. Das ist auch richtig so, weil eben hinter jedem Produkt, jeder Dienstleistung viele ethische Fragestellungen stehen, die nicht alle übergreifend beantwortet werden können.
OT: An wen können sich Inhaber oder Geschäftsführer von Sanitätshäusern bei ethischen Fragen jenseits ihrer Berufsverbände wenden?
Buyx: Ich empfehle den Kollegen bei Unsicherheiten, Kontakt mit ihrer zuständigen Ethikkommission bei der Landesärztekammer aufzunehmen, oder das Institut für Ethik in der Medizin an der jeweiligen Universität anzusprechen.
Die Fragen stellte Ruth Justen.
- Das Handwerk trauert um Werner Dierolf — 28. September 2024
- Die OTWorld und das große Rauschen — 16. Mai 2024
- OT an die Welt – Die OTWorld 2024 ist in Leipzig gelandet — 14. Mai 2024