Damit der Einsatz Künstlicher Intelligenz wirtschaftlich erfolgreich, effizient und langfristig tragfähig ist, bildet Vertrauenswürdigkeit eine zentrale Voraussetzung. Genau hier setzt das Thema Trusted AI an: Es steht für Künstliche Intelligenz, die transparent, nachvollziehbar, sicher, robust und fair ist – und die sich an ethischen Werten sowie rechtlichen Rahmenbedingungen orientiert.

Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) verfolgt einen ganzheitlichen Ansatz zur Entwicklung vertrauenswürdiger, sicherer und ethisch verantwortungsvoller KI – von der Grundlagenforschung über die anwendungsnahe Entwicklung bis hin zur Umsetzung wirksamer AI-Governance-Strukturen. Ziel ist es, identifizierte Forschungslücken zu schließen und ein gemeinsames europäisches Dach für Garantien, Zertifizierungen und Standards zu schaffen. Diese sollen unter anderem Sicherheit, Fairness, Robustheit und eine effektive menschliche Aufsicht über KI-Systeme gewährleisten. Durch die enge Zusammenarbeit von Wissenschaft, Industrie und öffentlicher Verwaltung überführt das DFKI bestehende Erkenntnisse systematisch in die Praxis und fördert zugleich den Dialog mit politischen und zivilgesellschaftlichen Akteuren, um Vertrauen in KI nachhaltig zu stärken.

Trusted AI am DFKI umfasst den gesamten Lebenszyklus von KI-Systemen: von der Datenerhebung über Modellierung und Training bis hin zu Einsatz, Wartung und kontinuierlicher Weiterentwicklung. Die Forschung konzentriert sich dabei unter anderem auf Erklärbarkeit und Transparenz von KI-Entscheidungen, den Schutz von Systemen vor Manipulationen sowie auf die Vermeidung von Verzerrungen und Diskriminierung. Rechtliche, ethische und soziale Fragestellungen werden von Beginn an interdisziplinär mitgedacht und erforscht.

Besonders wichtig ist dabei die enge Zusammenarbeit mit Industrie, Politik und Zivilgesellschaft. In zahlreichen nationalen und internationalen Projekten trägt das DFKI dazu bei, vertrauenswürdige KI aus der Forschung in reale Anwendungen zu überführen – etwa in der Medizin, der Industrie, der Mobilität oder der öffentlichen Verwaltung. Damit leistet das DFKI einen wesentlichen Beitrag zur digitalen Souveränität Europas und zur Stärkung eines verantwortungsvollen, menschenzentrierten KI-Ökosystems.

Auf der Hannover Messe demonstriert das DFKI die grundlegende Relevanz von Trusted AI über Technologie- und Domänengrenzen hinweg: beim Einsatz robotischer KI in natürlichen Umgebungen und in der Virtuellen Realität, in der Mensch-Roboter-Kollaboration und der Objekterfassung, bei der Überprüfung der Regelkonformität von KI-Systemen in kleinen und mittleren Unternehmen, bei der Analyse der Rechtskonformität von Verträgen, bei der Entwicklung robuster sensorischer Systeme, in Entscheidungsunterstützungssystemen für teilautonome Navigation sowie beim Einsatz von KI in der industriellen Prozessplanung und der Prozessmodellierung mit großen Sprachmodellen – stets mit dem Fokus auf Nachvollziehbarkeit, Sicherheit und Vertrauen.

Gesundheit zählt zu den zentralen Zukunftsfragen unserer Gesellschaft. Demografischer Wandel, Fachkräftemangel, steigende Kosten und der Wunsch nach personalisierter Medizin stellen Gesundheitssysteme weltweit vor große Herausforderungen. Künstliche Intelligenz bietet hier ein enormes Potenzial – vorausgesetzt, sie wird verantwortungsvoll, zuverlässig und praxisnah eingesetzt. Am Deutschen Forschungszentrum für Künstliche Intelligenz steht Health AI für genau diesen Anspruch: exzellente KI-Forschung mit messbarem Nutzen für Medizin, Pflege und Versorgung. Das DFKI verbindet modernste KI-Methoden mit konkreten Anwendungen entlang der gesamten Gesundheitsversorgung – von der Prävention und Diagnostik über Therapie und Rehabilitation bis hin zu Versorgungsprozessen und Assistenzsystemen.

Health AI am DFKI ist dabei kein isoliertes Forschungsfeld, sondern ein standort- und disziplinübergreifendes Leitthema. Robotik, maschinelles Lernen, medizinische Bild- und Signalverarbeitung, Daten- und Wissenssysteme sowie erklärbare und vertrauenswürdige KI greifen ineinander. Diese Vernetzung ermöglicht Lösungen, die nicht nur technologisch leistungsfähig, sondern auch im klinischen und organisatorischen Alltag einsetzbar sind.

Ein besonderer Fokus liegt auf menschenzentrierter KI. Health AI am DFKI unterstützt medizinisches Fachpersonal, entlastet Versorgungssysteme und stärkt Patientinnen und Patienten – ohne menschliche Verantwortung zu ersetzen. Transparenz, Sicherheit, Datenschutz und Nachvollziehbarkeit sind dabei keine Zusatzanforderungen, sondern integraler Bestandteil der Forschung. Gerade im sensiblen Gesundheitsbereich ist Vertrauen die Grundlage für Akzeptanz und nachhaltigen Einsatz von KI.

Auf der Hannover Messe zeigt das DFKI, wie Health AI in der Praxis wirkt: in intelligenten Assistenzsystemen für Rehabilitation und Pflege, in KI-gestützter Diagnostik und personalisierter Medizin, in datenbasierten Entscheidungs- und Versorgungsprozessen sowie in Lösungen für eine sichere und vertrauenswürdige Nutzung medizinischer KI. Gemeinsam mit Partnern aus Industrie, Gesundheitswesen und Forschung entstehen so Innovationen, die den Transfer von KI aus dem Labor in die reale Versorgung ermöglichen.

Health AI steht exemplarisch für das Selbstverständnis des DFKI: KI nicht nur zu erforschen, sondern sie dort wirksam zu machen, wo sie einen unmittelbaren gesellschaftlichen Mehrwert schafft. Auf der Hannover Messe präsentiert das DFKI Health AI als Schlüsseltechnologie für eine leistungsfähige, resiliente und zukunftsfähige Gesundheitsversorgung – heute und morgen.