Förderung: VW-Stiftung

Zeitraum: 2020 - 2021

Projektleitung: Prof. Dr. Karsten Weber

MitarbeiterInnnen:

• Uta Bittner, M.A. & Dipl.-Kauffrau
• Linda Ellen Kokott, M.A.
• Dr. Helene Gerhards
• Vasilija Rolfes, M.A.

Kooperationspartner: Prof. Dr. Heiner Fangerau (Heinrich-Heine-Universität Düsseldorf), Prof. Dr. Tanja Henking (FH Würzburg-Schweinfurt), Prof. Dr. Christoph Palm (OTH Regensburg)

Zusatzprojekte:

• „What kind of autonomy? Understandings of autonomy within the Covid-19 pandemic discourse against the backdrop of the use of Artificial Intelligence and Big Data (additional Corona-related funding)” (2021)
• „Die Zukunftsmaschine“ – Wissenschaftskommunikation im Rahmen des Projektes SMART“ (2021)

Ziel: 

Im Gesundheitswesen ist die Achtung der Patientenautonomie ein zentrales Anliegen, das durch eine informierte Einwilligung erfüllt wird. Aufgrund bestimmter Krankheiten kann die Fähigkeit zur Erteilung einer informierten Einwilligung beeinträchtigt oder nicht vorhanden sein. Der behandelnde Arzt hat die Pflicht, die Entscheidungsfähigkeit des Patienten zu beurteilen. Es gibt verschiedene Beurteilungsinstrumente. Die Instrumente bauen jedoch auf den kognitiven und verbalen Fähigkeiten des Patienten auf (emotionale Fähigkeiten werden vernachlässigt). Daneben können auch die subjektiven Faktoren des Arztes die Beurteilung beeinflussen. Wir werfen die Frage auf, ob künstliche Intelligenz (KI) eingesetzt werden kann, um die Schwächen der Beurteilungsinstrumente und die subjektive Voreingenommenheit des Arztes innerhalb des Beurteilungsverfahrens zu kompensieren. Bis jetzt gibt es im Bereich der künstlichen Intelligenz keine Bemühungen, die Einschränkungen bei der Beurteilung der Entscheidungsfähigkeit von Patienten zu überwinden. Unser Ziel ist es zunächst, ein interdisziplinäres Netzwerk von Wissenschaftlern aufzubauen, um die Schwächen und Einschränkungen, die mit einer Beurteilung der Entscheidungsfähigkeit eines Patienten verbunden sind, herauszuarbeiten. Zweitens werden wir eine empirische Vorstudie mit Fokusgruppen durchführen. Im Ergebnis werden wir drittens einen Vollantrag zur Frage verfassen, ob und wie eine Übertragung dieser Erkenntnisse in KI-Systeme technisch möglich und sozial, politisch, rechtlich sowie ethisch wünschenswert ist.

Projektseite auf Research Gate

Poster mit Projektbeschreibung

Link AI-Autonomy-Webseite (deutsch)

Link Ai-Autonomy-Webseite (english)

Publikationen

Gerhards, H., Weber, K., Bittner, U., & Fangerau, H. (2020). Machine Learning Healthcare Applications (ML- HCAs) Are No Stand-Alone Systems but Part of an Ecosystem -A Broader Ethical and Health Technology Assessment Approach is Needed, October 2020, The American Journal of Bioethics 20(11):46-48, DOI: 10.1080/15265161.2020.1820104

Krug, H., Bittner, U., Rolfes, V., Fangerau, H. & Weber, K. (2020). Verunsicherung des ärztlichen Selbstverständnisses durch Künstliche Intelligenz? Ein Überblick über potenzielle Auswirkungen ihres Einsatzes im ärztlichen Alltag. In A. Frewer, L. Bergemann & E. Langmann (Hrsg.), Unsicherheit in der Medizin (Jahrbuch für Ethik in der Klinik 2020): Würzburg: Königshausen & Neumann

Schneider, D., A. Sonar, A., & K. Weber, K. (im Erscheinen). ZwischenAutomatisierung und ethischem Anspruch. Disruptive Effekte des KI-Einsatzes inund auf Professionen der Gesundheitsversorgung. In: M. Pfannstiel (Hrsg.): Künstliche Intelligenz im Gesundheitswesen. Springer Nature. 

Sonar, A., & Weber, K. (2020). KI gestern und heute: Einsichten aus der Frühgeschichte der KI für aktuelle ethische Überlegungen zum Einsatz von KI in der Medizin. Arbeit, 29(2), 105–122. Link

Sonar, A., & Weber, K. (Hrsg.) (2022): Künstliche Intelligenz und Gesundheit. Steiner. Künstliche Intelligenz und Gesundheit | Franz Steiner Verlag (steiner-verlag.de)