Publikation
KI für eine sichere Gesellschaft
Tobias Wirth; Mihai Maftei; Hartmut Hilpert; Lisa-Marie Goltz; Iris Merget
In: Maximilian Wanderwitz. Risikoanalyse Künstliche Intelligenz. Pages 381-421, ISBN 978-3-662-72661-7, Springer Berlin Heidelberg, Berlin, Heidelberg, 2026.
Zusammenfassung
Künstliche Intelligenz (KI) wird zunehmender Bestandteil der Sicherheitsarchitektur moderner Gesellschaften sein. Das Kapitel beleuchtet die Rolle von generativer KI in der Kriminalitätsbekämpfung, die Chancen und Risiken prädiktiver Polizeiarbeit, die Wirkmechanismen von Sozialkreditsystemen, staatliches Hacking sowie die für KI notwendigen Datenräume. Anhand realer Beispiele wird gezeigt, wie algorithmische Risikobewertungssysteme Diskriminierungen verstärken können. Es werden aktuelle KI-Anwendungen im praktischen Einsatz bei Sicherheitsbehörden vorgestellt. Abschließend werden Anforderungen an safe-by-design KI-Systeme formuliert, welche Sicherheit unter einer rechtsstaatlichen Einbettung ermöglichen.