Der zweite Teil dieser Artikelreihe stellt die Akteure der KI-Verordnung (KI-VO) vor und bespricht Maßnahmen für Hochrisiko-KI-Systeme, die sich aus der KI-VO ergeben. Die Analyse eines Anwendungsfalls gibt einen ersten Eindruck vom Umgang mit Hochrisiko-KI-Systemen.
Je einen KI-Leitfaden für das Management und für Beschäftigte hat die bayerische Staatsregierung bereitgestellt. Die Leitfäden wenden sich an alle Dienststellen des Freistaats Bayern mit ihren insgesamt über 350.000 Beschäftigten. Viele Regelungsbausteine eignen sich auch für Unternehmen.
Der Einsatz von KI-Systemen ist auf dem Vormarsch. Auch Arbeitnehmerdaten sind Gegenstand KI-gestützter Verarbeitung. Sie befinden sich damit im Anforderungsfeld zwischen Fürsorgepflicht, Mitbestimmung und Datenschutz.
Eine KI wertet amtliche Quellen von hoher Zuverlässigkeit aus. Dennoch produziert sie ein unsinniges Ergebnis. Das betroffene Unternehmen lässt sich das nicht gefallen. Es erwirkt eine Unterlassungsverfügung des zuständigen Gerichts. Das KI-Geschäftsmodell dürfte damit erledigt sein.
Seit dem 30. September 2023 hat Microsoft einen neuen Servicevertrag, der für Produkte wie Windows und Office sowie Cloud-Dienste wie OneDrive und Teams gilt. Die Vertragsinhalte werfen viele datenschutzrechtliche Fragen auf: ein Überblick.
Künstliche Intelligenz (KI) kann dabei unterstützen, Cyberangriffe zu erkennen und abzuwehren. Doch KI kann auch selbst zum Datenrisiko werden. Datenschutzbeauftragte sind hier mehrfach gefordert, nicht nur personenbezogene Daten zu schützen, sondern auch Manipulation und Missbrauch zu verhindern.
Mit Inkrafttreten der KI-VO wird sich der Compliance-Aufwand v.a. für Unternehmen, die Hochrisiko-KI-Systeme anbieten oder betreiben, um ein weiteres Risikomodul erhöhen. Für die Praxis bietet es sich an, das KI-Thema in das Datenschutzmanagement-System zu integrieren.
Manchmal sieht man den Wald vor lauter Bäumen nicht mehr. So geht es derzeit vielen Datenschützern angesichts der Flut von EU-Initiativen zu Digitalisierung und Künstlicher Intelligenz. Anlass genug für einen Überblick, der nur die wirklich wichtigen Eckpunkte hervorhebt!
Die einheitliche Anwendung und Durchsetzung der DSGVO, die Rolle des Europäischen Datenschutzausschusses (EDSA), Profiling und Scoring im Lichte des SCHUFA-Urteils, die KI-Regulierung und ihre rechtlichen und wirtschaftlichen Folgen und „Data Act – Rückschritt, Fortschritt? Oder neue Fragen…?“, dies sind Beispiele aus der Agenda der IDACON 2024, die vom 5. - 6. November in München stattfand. Was sollten Datenschutzbeauftragte dazu wissen, um in den Unternehmen und Behörden ihren Aufgaben nachgehen zu können?
Wollen Behörden und Unternehmen KI einsetzen, müssen sie neben der Art der KI-Technologie Fragen zum Einsatzzweck, zu den verwendeten Daten und zum Betrieb klären. Damit dabei der Datenschutz nicht auf der Strecke bleibt, bieten sich Checklisten für die strukturierte Prüfung an. Eine davon sei hier vorgestellt.
