Skip to main content Skip to main navigation

KI für den Menschen – das Ethik-Team am DFKI

Die zunehmende Performanz von KI-Systemen und vor allem der tatsächliche Einsatz im Alltag vieler Menschen hat die ethische Betrachtung des Einsatzes von KI-Systemen zu einem gesellschaftsrelevanten Thema gemacht, welches inzwischen auch in der breiten Öffentlichkeit wahrgenommen und diskutiert wird.

Das DFKI bezieht ethische Fragestellungen systematisch in seine Forschungsaktivitäten ein. Dabei hängt es sehr vom jeweiligen Projektfokus ab, in welchem Umfang ethische Fragen im Projektkontext berücksichtigt werden können und müssen. In den Projekten arbeitet das DFKI regelmäßig auch mit externen Experten auf dem jeweiligen Gebiet der Ethik zusammen, ggf. ergänzt durch beispielsweise juristische oder psychologische Expertise.

Mit dem Leitspruch „KI für den Menschen“ möchte das DFKI unter anderem betonen, dass die Forschung hier immer dem Wohle des Menschen dienen soll. Dazu gehört auch, den Einsatz von KI-Systemen unter ethischen Gesichtspunkten zu betrachten.    

Am DFKI gibt es ein eingesetztes Ethik-Team, welches den Mitarbeitern in allen Ethik-Fragen als erste Anlaufstelle dienen kann, sei es bezogen auf ein konkretes Projekt oder allgemein die Arbeit am DFKI betreffend. Das Ethik-Team hat eine Handreichung erarbeitet, die zur ersten Orientierung dienen soll. Sie findet sich hier

Das Ethik-Team setzt sich zusammen aus:

Prof. Dr. Paul Lukowicz – Sprecher


Forschungsinteressen:

Coming soon


Warum ist Ethik für dich wichtig?

Coming soon

Iris Merget – Managerin


Forschungsinteressen:

  • Ethische Richtlinien für die Entwicklung von KI-Systemen
  • Vertrauenswürdige KI


Warum ist Ethik für dich wichtig?

Die Komplexität der KI-Technologien nimmt immer größere Ausmaße an, und ihre Integration in unzählige gesellschaftliche Bereiche nimmt ständig zu. In diesem Zusammenhang stellt die Ethik auf europäischer Ebene eine wesentliche Komponente dar, die sicherstellt, dass KI-Systeme auf vertrauenswürdige Weise entwickelt werden, wodurch das Vertrauen in die KI-Technologie und ihre Anwendungen gestärkt wird und die Wahrscheinlichkeit einer breiten Akzeptanz steigt.
Indem wir die Ethik in den Vordergrund der KI-Entwicklung und -Einführung stellen, können wir nicht nur sicherstellen, dass KI-Systeme mit einem klaren ethischen Rahmen entwickelt werden, sondern auch, dass der allgemeine Ansatz der KI-Technologie auf jeder Ebene effektiv und verantwortungsbewusst wird, was ich nachdrücklich unterstütze.
Da KI-Technologien zunehmend komplexer werden und in unser tägliches Leben integriert werden, ist es von entscheidender Bedeutung, dass wir die ethischen Implikationen ihrer Entwicklung und Nutzung berücksichtigen. Sowohl auf europäischer als auch auf weltweiter Ebene wird der Ruf nach ethischen Standards und Sicherheitsvorkehrungen lauter, um sicherzustellen, dass die Auswirkungen der KI auf die Gesellschaft positiv sind. Durch einen kooperativen und grenzüberschreitenden Ansatz bei der Behandlung dieser Fragen können wir sicherstellen, dass Einzelpersonen und Organisationen die Verantwortung für die Auswirkungen ihrer Technologie auf die Gesellschaft übernehmen und gewährleisten können, dass ihr Handeln ethisch vertretbar ist und dem Allgemeinwohl dient.

Mihai Maftei – Wissenschaftlicher Mitarbeiter


Forschungsinteressen:

  • Angewandte Ethik
  • Conversational AI Systems
  • ethische Bewertung


Warum ist Ethik für dich wichtig?

Künstliche Intelligenz erlebt einen beeindruckenden Aufschwung, schafft Problemlösungsfähigkeiten und wird zunehmend in alle gesellschaftlichen Bereiche integriert. Für mich zeigt die Begleitung der aktuellen KI-Expansion durch ständige Forderungen nach angewandter Ethik, dass KI-Ethik nicht nur eine von verschiedenen Behörden auferlegte Anforderung ist, sondern ein wesentlicher Bestandteil der verantwortungsvollen Entwicklung von KI-gesteuerten Technologien und ein wirksames Instrument zur Schaffung eines Mehrwerts für KI-Systeme.

Samantha Prange – Assistenz


Forschungsinteressen:

  • Ursprünge der KI in der griechischen Philosophie und Mythologie


Warum ist Ethik für dich wichtig?

Menschen werden die KI nicht als Unterstützung annehmen so lange unklar ist, ob die KI nicht doch eine Gefahr darstellen könnte. Daher muss schon bei der Entwicklung von KI-Systemen die Ethik mit „programmiert“ werden.

Kevin Baum - Advisor


Forschungsinteressen:

  • Explainable AI
  • Maschinenethik
  • Trustworthy AI
  • Computerethik
  • Normative Ethik
  • deontische Logik


Warum ist Ethik für dich wichtig?

Was möglich und machbar ist, was tatsächlich geschieht oder welche Folgen etwas haben kann, sind so interessante wie relevante Fragen. Aber Antworten darauf sagen uns nicht, was wir tun sollen. Dafür müssen wird danach fragen, was sein soll und darf. Die Ethik als die Wissenschaft der Moral gibt uns diesbezüglich Antworten für jedenfalls eine gewichtige und primäre Quelle des Normativen. Daher ist die wichtig und deshalb ist sie wichtig für mich.

Dr. Aljoscha Burchardt – Advisor


Forschungsinteressen:

  • Sprach- und Wissenstechnologien


Warum ist Ethik für dich wichtig?

KI-Systeme interagieren mit der Welt und werden von Menschen zunehmend als eine Art von Akteur wahrgenommen. Um die Systeme gut zu gestalten und zu evaluieren, braucht es interdisziplinären Diskurs über Maßstäbe, Erwartungen, Rollenbilder, Ängste und vieles mehr. Dieser Diskurs gewinnt durch ethische Reflexion und wird zum Teil erst durch sie möglich.

Dr. Christian Müller - Advisor


Forschungsinteressen:

Meine Forschungsinteressen konzentrieren sich auf die Entwicklung neuroexpliziter KI für das Autonome Fahren. Dabei geht es um die Entwicklung intelligenter Systeme, die in komplexen Fahrszenarien wahrnehmen, argumentieren und Entscheidungen treffen können. Erreicht wird dies durch die Kombination von symbolischem Denken und anderen Formen expliziten Wissens mit neuronalen Netzen, die es diesen Systemen ermöglichen, aus Daten zu lernen und gleichzeitig Schlussfolgerungen über die Fahrsituation zu ziehen. Durch die Entwicklung dieser Algorithmen wollen mein Team und ich die Sicherheit und Effizienz des Autonomen Fahrens verbessern, um es schließlich für den Alltag nutzbar zu machen. Meine Forschung umfasst die Erforschung der neuesten Fortschritte im Bereich des maschinellen Lernens und der Künstlichen Intelligenz sowie die Entwicklung neuartiger Algorithmen, die die Umgebung genau wahrnehmen, Verkehrsregeln verstehen und auf der Grundlage dieser Informationen Entscheidungen treffen können.


Warum ist Ethik für dich wichtig?

Während ethische Bedenken im Zusammenhang mit Dilemmata und Vorurteilen bei der Entwicklung und dem Einsatz autonomer Fahrsysteme von entscheidender Bedeutung sind, bin ich daran interessiert zu untersuchen, wie Ethik in den gesamten Lebenszyklus dieser Systeme integriert werden kann. Dazu gehört, dass man über die traditionellen ethischen Bedenken von Dilemmata und Vorurteilen hinausgeht und die ethischen Implikationen der Datenerfassung, der algorithmischen Entscheidungsfindung und des Einsatzes berücksichtigt. Durch die Untersuchung dieser umfassenderen ethischen Implikationen möchte ich ethische Rahmenbedingungen entwickeln und fördern, die eine verantwortungsvolle und gerechte Nutzung der Technologie des Autonomen Fahrens gewährleisten.

Dr. Christiane Plociennik – Advisor


Forschungsinteressen:

  • KI und Ethik
  • Digitalisierung und KI in der Kreislaufwirtschaft
  • Mensch-Technik-Interaktion
  • KI in der Fabrik
  • grüne KI
     

Warum ist Ethik für dich wichtig?

KI ist nicht einfach normale Software, die programmiert wird und dann läuft. Bei KI gibt es eine Art “Zwischenschicht” - der Programmierer schreibt quasi Programmcode, der dann wieder Programmcode erzeugt, und dieser wird dann ausgeführt. Durch diese “Zwischenschicht” entstehen ethische Herausforderungen, die bei normaler Software so nicht existieren.

Dr. Tobias Wirth – Advisor


Forschungsinteressen:

  • Faire KI in der Praxis
  • Gerichtsfeste KI
  • KI in der Forensik


Warum ist Ethik für dich wichtig?

Künstliche Intelligenz wird die Welt voranbringen. Damit wir die Potenziale von KI realisieren können in vielen Bereichen, die unsere Gesellschaft betreffen, wie Gesundheit, Wandel im Arbeitsmarkt, Wertschöpfung in der Wirtschaft, Mobilität, Energiewende und Klimawandel, brauchen wir eine transparente und vertrauenswürdige KI. In der Entwicklung von KI-Systemen liegt auch eine große Verantwortung. Wir brauchen einen Design-Ansatz, welcher ethische Überlegungen und Prinzipien über den gesamten Zyklus von der Idee bis zum Produkt miteinbezieht. Klar ist aber auch: KI soll uns Menschen unterstützen, nicht jedoch ersetzen. Wie bei allen großen Technologiesprüngen bergen Anwendungen von KI neben Chancen aber auch Risiken. Um die Chancen von KI bestmöglich zu nutzen, müssen wir neben ethische Prinzipien aber auch rechtlich verbindliche Regeln für KI-Anwendungen setzen.