DR-AI – Entwicklung von anwendungsbezogenen Analysealgorithmen in den bildgebenden Fachdisziplinen Dermatologie und Radiologie mithilfe von Artificial Intelligence

Teilprojekt

Die Arbeitsgruppe von Prof. Alena Buyx am Institut für Geschichte und Ethik der Medizin (IGEM) der Technischen Universität München (TUM) stellt im Rahmen des Projektes sicher, dass die KI-Systeme den geltenden Vorschriften entsprechen und in der Entwicklung soziale und ethische Fragestellungen mitberücksichtigt werden, um potenzielle Risiken bestmöglich zu minimieren. Um dieses Ziel zu erreichen, wird der neue Ansatz embedded ethics explorativ eingesetzt.

Verschiedene wissenschaftliche Beiträge haben gezeigt, dass KI die moral agency (moralische Entscheidungsfindung, moralische Entscheidungsfreiheit, moralische Handlungsfähigkeit?) vor große Herausforderungen stellt und neue Ansätze sowie eine neue Ethik erfordert. In letzter Zeit zunehmend an Bedeutung gewonnen hat die Forderung, dass die hierfür entsprechenden Maßnahmen in die verschiedenen Schritte der Technologieentwicklung eingebunden werden – dies hat embedded ethics als neues Interessengebiet  geprägt.

Der Ansatz embedded ethics wird in letzter Zeit als praktisches Vorgehen vorgeschlagen. So. bezeichnen McLennan und Fiske et al. (2020) die Integration von embedded ethics in die Technologieentwicklung als Goldstandard: Demnach sollte ein:e Ethiker:in oder ein Team von Ethikern Teil des Entwicklungsteams sein. Dies geht mit der Vorstellung einher, dass embedded ethics „von Anfang an in den Entwicklungsprozess integriert werden sollte, um soziale und ethische Probleme zu antizipieren, zu identifizieren und zu beseitigen, die während des Entwicklungsprozesses einer KI-Technologie – einschließlich der Phasen der Planung, der ethischen Genehmigung, des Entwurfs, der Programmierung, der Erprobung, des Testens und der Implementierung – auftreten “ (McLennan, Fiske, et al., 2020, Abs. 2, Übers. d.A.). Das übergeordnete Ziel ist es, „Transparenz hinsichtlich der bestehenden Unsicherheit oder Unstimmigkeit zu schaffen und eine neue Perspektive ‚an die Werkbank‘ zu bringen, indem eine Vielzahl ethisch vertretbarer Strategien angeboten wird“ (McLennan, Fiske, et al., 2020, Abs. 2, Übers. d.A.).

Als Grundlage des Projektes wird außerdem der ethische Diskurs speziell für KI-basierte Gesundheitsanwendungen in der Radiologie und Dermatologie strukturiert dargestellt. Dieser umfasst aktuelle Debatten in der Maschinenethik, Technologieethik, Algorithmenethik, Informationsethik und in angrenzenden Bereichen sowie in Paradigmen der Medizinethik. Es wird eine zweiphasige Peer-to-Peer Interviewstudie mit Dermatolog:innen, Radiolog:innen und Informatiker:innen durchgeführt, um neue Erkenntnisse über die Umsetzung von embedded ethics in die Praxis zu gewinnen und um von den Mitarbeiter:innen zu erfahren, welche Aspekte sie als sozial relevant bei der Arbeit an Projekten für KI-basierte Gesundheitsanwendungen wahrnehmen. Die gewonnenen Erkenntnisse werden im Konsortium diskutiert und fließen in laufende Entwicklungsarbeiten ein.