Mit der Verordnung 2024/1689 der Europäischen Union über Künstliche Intelligenz (EU-KI-VO) wurde 2024 erstmals in Europa ein allgemeiner Rechtsrahmen für die KI-Entwicklung, -Vermarktung und -Nutzung etabliert. Der Anwendungsbereich erstreckt sich auch auf die Strafverfolgung. Dieser Beitrag untersucht die Regelungen der Verordnung zum Einsatz von Künstlicher Intelligenz (KI) durch Strafverfolgungsbehörden (Polizei und Staatsanwaltschaften). Mit der zunehmenden Digitalisierung sind die Datenmengen, die im Kontext von Strafverfolgung und Gefahrenabwehr anfallen, exponentiell gewachsen. Polizeibehörden erhoffen sich vom KI-Einsatz neue Wege, um diese Datenmengen effizient und effektiv zu erschließen. Allerdings wirft der KI-Einsatz gerade in der Strafverfolgung zahlreiche rechtliche und ethische Fragen auf, insbesondere bezüglich der entstehenden Risiken für die Grundrechte. Die EU-KI-VO bindet den Einsatz von KI in hochriskanten Bereichen an Bedingungen und prozedurale Vorkehrungen; besonders riskante KI-Systeme werden sogar weitgehend verboten. Für Polizeiarbeit und Strafverfolgung enthält die EU-KI-VO jedoch zahlreiche Ausnahmen („Hintertüren“), die ihnen eine wesentlich stärkere und weniger intensiv kontrollierte Nutzung riskanter KI-Anwendungen ermöglichen als anderen staatlichen Stellen und nichtstaatlichen Akteur:innen, soweit das mitgliedstaatliche Recht entsprechende Eingriffsgrundlagen vorsieht. Der Beitrag nimmt eine kritische Bestandsaufnahme des so entstehenden KI-Sonderrechts für Strafverfolgungsbehörden vor und analysiert dieses mit einem besonderen Fokus auf die Arbeit der Polizei.

错误:搜索内容不能为空,请输入英文关键词
错误:关键词超出字数限制,请精简
高级检索

Die Nutzung Künstlicher Intelligenz durch Strafverfolgungsbehörden – „Hintertüren“ der Verordnung der Europäischen Union über Künstliche Intelligenz

  • Steven Kleemann,
  • Hartmut Aden

摘要

Mit der Verordnung 2024/1689 der Europäischen Union über Künstliche Intelligenz (EU-KI-VO) wurde 2024 erstmals in Europa ein allgemeiner Rechtsrahmen für die KI-Entwicklung, -Vermarktung und -Nutzung etabliert. Der Anwendungsbereich erstreckt sich auch auf die Strafverfolgung. Dieser Beitrag untersucht die Regelungen der Verordnung zum Einsatz von Künstlicher Intelligenz (KI) durch Strafverfolgungsbehörden (Polizei und Staatsanwaltschaften). Mit der zunehmenden Digitalisierung sind die Datenmengen, die im Kontext von Strafverfolgung und Gefahrenabwehr anfallen, exponentiell gewachsen. Polizeibehörden erhoffen sich vom KI-Einsatz neue Wege, um diese Datenmengen effizient und effektiv zu erschließen. Allerdings wirft der KI-Einsatz gerade in der Strafverfolgung zahlreiche rechtliche und ethische Fragen auf, insbesondere bezüglich der entstehenden Risiken für die Grundrechte. Die EU-KI-VO bindet den Einsatz von KI in hochriskanten Bereichen an Bedingungen und prozedurale Vorkehrungen; besonders riskante KI-Systeme werden sogar weitgehend verboten. Für Polizeiarbeit und Strafverfolgung enthält die EU-KI-VO jedoch zahlreiche Ausnahmen („Hintertüren“), die ihnen eine wesentlich stärkere und weniger intensiv kontrollierte Nutzung riskanter KI-Anwendungen ermöglichen als anderen staatlichen Stellen und nichtstaatlichen Akteur:innen, soweit das mitgliedstaatliche Recht entsprechende Eingriffsgrundlagen vorsieht. Der Beitrag nimmt eine kritische Bestandsaufnahme des so entstehenden KI-Sonderrechts für Strafverfolgungsbehörden vor und analysiert dieses mit einem besonderen Fokus auf die Arbeit der Polizei.