Der Essener Bischof Franz-Josef Overbeck hat die Wichtigkeit eines klug ausgestalteten ethischen Rahmens für den Einsatz Künstlicher Intelligenz (KI) in Medizin und Gesundheitswirtschaft unterstrichen. „Entscheidungen, die ich ethisch treffe, müssen der Gerechtigkeit, der Solidarität dienen, dem Guten“, betonte Overbeck am Mittwochabend, 18. Mai, bei der Jahresveranstaltung des Rates für Gesundheit und Medizinethik im Bistum Essen in der Katholischen Akademie „Die Wolfsburg“ in Mülheim.

Kirche habe als gesellschaftliche Akteurin die Pflicht, ethische Leitlinien mitauszugestalten und in der Auseinandersetzung zu schauen, wie neue Technologien verantwortungsvoll entwickelt und eingesetzt werden können – zum Wohle der Menschheit. Dabei gehe es darum, „Ermöglichungsgründe zu nennen und auf Risiken hinzuweisen“. Im Hinblick auf die Autonomie des Menschen sagte Overbeck: „Es gibt einen Grad von Verantwortung, der nur personal zu bestimmen ist.“

Der Ruhrbischof diskutierte mit dem Nürnberger Ethiker für Gesundheitsberufe und Leiter der Fachstelle für Ethik und Anthropologie im Gesundheitswesen der Evangelisch-Lutherischen Kirche in Bayern, Arne Manzeschke, mit der Leiterin der nordrhein-westfälischen Landesvertretung der Techniker Krankenkasse (TK), Barbara Steffens, mit dem Wittener Bildungsforscher im Gesundheitswesen, Jan Ehlers, und mit Adriana Antje Reinecke vom VDI Technologiezentrum.

Die von Akademiedozent Mark Radtke moderierte Veranstaltung mit dem Titel „Die Zukunft digitaler Prognostik – Chancen und Nebenwirkungen für das Gesundheitswesen“ lief hybrid ab: mit einem Publikum vor Ort und Online-Teilnehmenden. In der Podiumsdiskussion ging es vor allem um die Fragen, was KI-Systeme tatsächlich leisten können, wo ihre Grenzen liegen sollten, welche ethischen Herausforderungen sich daraus ergeben und welche Kompetenzen es braucht, um mit KI-basierten Prognosen umzugehen.

Dass KI die Gesellschaft mit großer Dynamik verändert, darüber war sich das Podium einig. Medizin und Gesundheitswirtschaft seien zudem immer schon innovationsaffin, und KI und Robotik stellten nicht per se eine Gefahr dar. Wichtig sei aber eben, vor allem eine möglichst umfassende ethische Folgenabschätzung, die einen möglichen positiven Nutzen gegen mögliche Nachteile abwäge. Nicht technischen Fortschritt zu bremsen, gelte es, sondern diesen ethisch vertretbar auszuformen.

Ethiker: Am moralischen Subjekt als Verantwortungsträger festhalten

Der Ethiker Manzeschke plädierte dafür, das Bewusstsein dafür wachzuhalten, dass wir Menschen es sind, die diese Technologien konstruieren und verantworten und sie nach unseren Werten mitzugestalten – und zwar so, dass sie dem Menschen dienten.

Der Einsatz von Künstlicher Intelligenz werfe etwa die Frage nach Verantwortung, Schuld und Haftung neu auf. Je komplexer eine Gesellschaft werde, desto schwieriger werde es, einen Einzelnen verantwortlich zu machen. Verantwortung werde „kollektiv verortet“, und es werde damit immer schwieriger am „moralischen Subjekt als Verantwortungsträger festzuhalten“.

Manzeschke wies zudem auf ein systematisches Problem hin. „Bei der Künstlichen Intelligenz wissen wir ab einem gewissen Grad nicht, was sie macht und warum, gleichwohl vertrauen wir ihr.“ Die Frage sei, wie wir damit umgehen wollten.

Gesundheitsdaten als Währung – Datensouveränität verteidigen

Die Leiterin der nordrhein-westfälischen TK Steffens betonte, dass die Wahrung der Selbstbestimmung über die eigenen Daten keine Selbstverständlichkeit sei. Datensouveränität müsse erkämpft und verteidigt werden. Steffens sensibilisierte auch für die ökonomische Perspektive. KI eröffne der Wirtschaft enorme Potenziale für die Entwicklung neuer Märkte und hoher Gewinne. Und: „Die Gesundheitsdaten sind die Währung – das ist ein knallharter Markt, wo große Tech-Konzerne Geld verdienen und Daten abgegriffen werden.“

Steffens zeigte auch deutlich die Grenzen auf: „KI kann nur das, was die Intelligenz der Menschen tatsächlich in sie einspeist“, sagte Steffens, die auch Mitglied des Rates für Gesundheit und Medizinethik ist.

Bewertung KI-basierter Prognosen erfordern digitale Kompetenz

Adriana Antje Reinecke vom VDI Technologiezentrum, das sich unter anderem mit Innovationen in der Medizintechnik befasst, gab einen kurzen Überblick über KI-Modelle und wo sie eingesetzt werden können. Beispielsweise in der Onkologie könnten KI-Modelle für bestimmte Tumorarten eine Risikoanalyse vornehmen, wie wahrscheinlich es sei, dass ein Mensch diesen Tumor bekomme. Eine große Stärke der KI sei es auch, Tumore anhand von Bildern zu charakterisieren. Und in der Medikamentenentwicklung könnte sie von großem Nutzen sein, weil sie immense Datenmengen in kürzester Zeit verarbeiten könne. Zur Bewertung und Einschätzung bedürfe es allerdings einer „digitalen Gesundheitskompetenz“.

Bildungsforscher: Nicht alles machen, was technisch möglich ist

Bildungsforscher Ehlers mahnte bei allen Verlockungen, die die technischen Möglichkeiten der KIs und Algorithmen in Aussicht stellten, immer zu fragen: „Was wollen wir als Gesellschaft denn eigentlich?“ Das Kriterium dürfe nicht sein, etwas zu tun, zu entwickeln oder einzusetzen, weil es technisch möglich sei, sondern, weil es für die Patient:innen einen belegbaren Mehrwert biete und Medizin dadurch besser werde. Die Gefahr bestehe, dass KI vom „Objekt zum Subjekt wird, dem wir immer mehr vertrauen“. Es brauche Reflektionskompetenzen für ethische Bewertungen und die Vermittlung von Handlungskompetenzen.

Zum Ende der Veranstaltung war klar: Die Debatte über Vor- und Nachteile von KI-Systemen in der Medizin und im Gesundheitswesen fängt gerade erst an – und sie ist vielschichtig. Gesellschaft und Kirche sind gefragt, sich in die kontroverse Aushandlung dieser anspruchsvollen Zukunftsfrage einzubringen. Der Rat für Gesundheit und Medizinethik fahnde hier nach den „richtigen Fragen“, die frühzeitig erkannt und diskutiert werden müssten, und den „richtigen Wegen zu Antworten“, hatte dessen Sprecher Dirk Albrecht zur Eröffnung der Veranstaltung gesagt.