KI-Systeme in einem unternehmen müssen ab dem 1. August 2024 detailliert erfasst und mit Blick auf die KI-Verordnung (KI-Vo) bewertet werden.

Mit dem Inkrafttreten des KI-Verordnung (KI-Vo / AI-Act) wird nicht nur definiert, was KI darf, sondern werden Unternehmen auch zahlreiche Pflichten auferlegt, wenn sie KI-Lösungen einsetzen.

 

Verantwortliche für den Einsatz von KI-Systeme müssen angesichts der umfangreichen KI-Verordnung und die daraus resultierenden Anforderungen;

• inventarisieren welche KI-Systeme bereits benutzt, zukünftig beschafft, und/oder entwickelt werden sollen,
• analysieren, welche Rolle das Unternehmen im Rahmen der KI-Regulierung haben wird (z. B. als „verantwortlicher Nutzer“ bzw. „Betreiber“ oder möglicherweise auch als „Anbieter“), und welche Risikokategorie(n) mit welchen Verpflichtungen/Anforderungen gelten,
• sicherstellen, dass das Unternehmen die erforderliche Dokumentation gemäß der AI-Verordnung umsetzt und diese regelmäßig aktualisiert,
• eine Bestandsaufnahme darüber machen, welche (personenbezogenen) Daten diese KI-Systeme verwenden, woher die Daten stammen und wie diese verwendet werden.
• Wie das zugrunde liegende Modell trainiert wird und wie man die (Cyber-)Sicherheit gewährleisten kann,
• Prüfen, ob die eingesetzte KI die Datenschutzverpflichtungen nach der Allgemeinen Datenschutzgrundverordnung (DS-GVO) ausreichend berücksichtigt,
• sich kritisch mit Verträgen mit Anbietern von KI-Systemen, KI-Modellen und anderen KI-Tools auseinandersetzen,
• klare interne (Richtlinien-)Regeln für den Einsatz von KI innerhalb des Unternehmens erstellen,
• die Mitarbeiter, welche mit der KI arbeiten sollen, für den Einsatz zu schulen.
• die Verwendung einer KI für die Betroffenen, extern wie intern, so transparent und verständlich wie möglich kommunizieren.