Künstliche Intelligenz (KI) wird zunehmender Bestandteil der Sicherheitsarchitektur moderner Gesellschaften sein. Das Kapitel beleuchtet die Rolle von generativer KI in der Kriminalitätsbekämpfung, die Chancen und Risiken prädiktiver Polizeiarbeit, die Wirkmechanismen von Sozialkreditsystemen, staatliches Hacking sowie die für KI notwendigen Datenräume. Anhand realer Beispiele wird gezeigt, wie algorithmische Risikobewertungssysteme Diskriminierungen verstärken können. Es werden aktuelle KI-Anwendungen im praktischen Einsatz bei Sicherheitsbehörden vorgestellt. Abschließend werden Anforderungen an safe-by-design KI-Systeme formuliert, welche Sicherheit unter einer rechtsstaatlichen Einbettung ermöglichen.

错误:搜索内容不能为空,请输入英文关键词
错误:关键词超出字数限制,请精简
高级检索

KI für eine sichere Gesellschaft

  • Christoph Tobias Wirth,
  • Mihai Maftei,
  • Hartmut Hilpert,
  • Lisa-Marie Goltz,
  • Iris Merget

摘要

Künstliche Intelligenz (KI) wird zunehmender Bestandteil der Sicherheitsarchitektur moderner Gesellschaften sein. Das Kapitel beleuchtet die Rolle von generativer KI in der Kriminalitätsbekämpfung, die Chancen und Risiken prädiktiver Polizeiarbeit, die Wirkmechanismen von Sozialkreditsystemen, staatliches Hacking sowie die für KI notwendigen Datenräume. Anhand realer Beispiele wird gezeigt, wie algorithmische Risikobewertungssysteme Diskriminierungen verstärken können. Es werden aktuelle KI-Anwendungen im praktischen Einsatz bei Sicherheitsbehörden vorgestellt. Abschließend werden Anforderungen an safe-by-design KI-Systeme formuliert, welche Sicherheit unter einer rechtsstaatlichen Einbettung ermöglichen.