Die Akteure der KI-VO und Hochrisiko-KI-Systeme in der Praxis

Die KI-Verordnung definiert bestimmte Rollen, die unterschiedlich komplexen Auflagen unterliegen. Wer von Beginn an die Akteure sauber herausarbeitet, gewährleistet, dass ein Produkt von der Idee über den Wertschöpfungsprozess bis hin zur Markteinführung die von der KI-VO geforderten Sicherheitsstandards erfüllen kann.

Maßnahmen und Auflagen für ­Anbieter von Hochrisiko-KI-Systemen

Knapp die Hälfte der KI-Verordnung ist Hochrisiko-KI-Systemen gewidmet. Das spiegelt nicht nur die Verantwortung, die jede nutzende Person und jedes Unternehmen von hochriskanten Systemen trägt, sondern auch die Einschätzung der EU-Kommission in Bezug auf potenzielle Schäden, die diese Systeme verursachen können.

Anbieter von hochriskanten KI-Systemen müssen mit den umfangreichsten Auflagen rechnen. Es ist vorgesehen, dass entwickelnde Unternehmen verschiedene Managementsysteme implementieren müssen, die auch aufeinander aufbauen können. Hierzu zählt ein umfassendes Qualitätsmanagementsystem, das die Einhaltung der KI-VO sicherstellen soll (Art. 8 KI-VO). Hinzu kommt ein Risikomanagementsystem. Dieses muss das Unternehmen während des gesamten Lebenszyklus eines KI-Systems kontrollieren, auditieren und ggf. anpassen (Art. 9 KI-VO).

Das Unternehmen muss eine detaillierte technische Dokumentation über das KI-System erstellen. Diese muss alle relevanten Aspekte des Systems wie die verwendete Architektur, die Algorithm…