KI-Verordnung – aus der Rolle des Datenschutzes gedacht

Ein Blick auf die KI-Verordnung

Sie umfasst in der deutschen Sprache 460 Seiten, hat 180 Erwägungsgründe, die bei der Auslegung helfen sollen, 113 Gesetzesartikel und schließt dann mit 13 Anhängen.

Verbot von unzulässiger KI

Ein Kernelement der KI-Verordnung sind KI-Systeme, die in ganz Europa kategorisch nicht erlaubt sind. Aufgrund des Wesensgehalts einer europäischen Verordnung – Sie kennen das von der Datenschutz-Grundverordnung (­DSGVO) – haben hier nationale Gesetzgeber keinen Spielraum.

Die Sorge, dass die KI-VO Innovationen hemmt, ist hier schnell genommen. Denn die Verordnung verbietet z.B. KI-Systeme, die manipulativ auf schützenswerte Personengruppen einwirken sollen und erhebliche körperliche oder psychische Schäden verursachen können. Was für eine KI das sein könnte, fällt schon in der Vorstellung schwer. Mit viel Fantasie könnten dies z.B. KI-Apps sein, die gegenüber demenzkranken Personen mit der Stimme von Angehörigen kommunizieren.

Eine bessere Vorstellung hat man von Social Scoring, das in China schon zum Alltag der Bevölkerung gehört – dies wird es in Europa, der KI-Verordnung sei Dank, niemals geben. Bei biometrischen Fernidentifikationssystemen, also bei der polizeilichen Fahndung mittels Kameras und KI, sieht es differenzierter aus: Sie ist im Prinzip verboten, es gibt aber Ausnahmen.

Kommen wir damit zu einem Bereich, der zwar erlaubt, aber st…