Projekt | vALID

Künstliche Intelligenz (KI) scheint in aller Munde. Von zunehmender Bedeutung sind Anwendungen von KI im Bereich klinischer Entscheidungsfindung. Liegen einige der denkbaren Anwendungen klinischer KI noch in der Zukunft, verändern andere bereits die Praxis. Das Projekt vALID unternimmt eine normative, rechtliche und technische Analyse der Frage, wie KI-gesteuerte klinische Entscheidungsunterstützungssysteme mit dem Ideal der Arzt- und Patientensouveränität in Einklang gebracht werden können. Es untersucht, wie Konzepte von Vertrauenswürdigkeit, Transparenz, Akteurschaft und Verantwortung durch klinische KI beeinflusst und verschoben werden—sowohl auf theoretischer Ebene als auch im Hinblick auf konkrete moralische und rechtliche Konsequenzen. Die Analyse basiert auf einer empirischen Fallstudie, welche anhand von Mock-up-Simulationen KI-getriebener, klinischer Entscheidungsunterstützungssysteme systematisch die Einstellung von Ärzten und Patienten zu einer Bandbreite von Designs und Implementierungen erfasst. Ein wesentliches Ergebnis von vALID wird eine Governance-Perspektive für KI-getriebene Entscheidungsunterstützungssysteme im Rahmen gemeinsamer klinischer Entscheidungsfindung sein.