Die Europäische KI-Verordnung (KI-Vo), auch bekannt als der AI Act, legt spezifische Pflichten für verschiedene Akteure fest, die an der Entwicklung, Bereitstellung und Nutzung von Künstlicher Intelligenz (KI) beteiligt sind. Unter diesen Akteuren spielen Betreiber (Benutzer oder Anwender), also diejenigen, die KI-Systeme tatsächlich einsetzen, eine wichtige Rolle. Sie haben besondere Verpflichtungen, um die verantwortungsvolle Nutzung von KI-Systemen sicherzustellen. Diese Pflichten hängen insbesondere davon ab, ob das eingesetzte KI-System als Hochrisiko-KI-System eingestuft wird.

Pflichten von Betreibern gemäß der KI-Verordnung

Verwendung im Einklang mit den Vorgaben des Anbieters

• • Betreiber müssen das KI-System in Übereinstimmung mit den Anweisungen des Herstellers oder Anbieters verwenden. Dies umfasst die richtige Konfiguration, regelmäßige Wartung und Aktualisierung des Systems, um eine fehlerfreie und sichere Funktion zu gewährleisten.
  • Der Betreiber muss sicherstellen, dass das KI-System nicht außerhalb seines vorgesehenen Anwendungsbereichs genutzt wird, um Risiken für Nutzer und Betroffene zu minimieren.

Überwachung und Meldung von Vorfällen

• • Betreiber müssen eine kontinuierliche Überwachung des KI-Systems gewährleisten, insbesondere wenn es sich um ein Hochrisiko-KI-System handelt. Sollten schwerwiegende Vorfälle oder Fehlfunktionen auftreten, sind diese unverzüglich den zuständigen Behörden* zu melden.
  • Dies betrifft insbesondere Vorfälle, die zu Sicherheitsproblemen, diskriminierenden Ergebnissen oder anderen negativen Auswirkungen auf die Gesundheit oder Sicherheit von Menschen führen können.

Risikobewusstsein und Schulung

• • Betreiber müssen sicherstellen, dass die Benutzer oder Mitarbeitenden, die das KI-System bedienen, entsprechend geschult sind. Dies betrifft insbesondere das Verständnis der Risiken und Grenzen des Systems.
  • Es muss sichergestellt sein, dass die Nutzer das System so bedienen, dass es keine unvorhergesehenen oder potenziell schädlichen Ergebnisse produziert.

Transparenzpflichten

• • Der Betreiber muss sicherstellen, dass Personen, die direkt von dem KI-System betroffen sind (z. B. Kunden, Bürger), über den Einsatz von KI informiert werden. Insbesondere bei hochriskanten Anwendungen wie automatisierten Entscheidungsfindungssystemen (z. B. Kreditvergabe oder Personalrekrutierung) müssen die betroffenen Personen darüber informiert werden, dass eine Entscheidung ganz oder teilweise durch KI getroffen wurde.
  • In einigen Fällen besteht zudem die Pflicht, eine menschliche Überprüfung oder Intervention zu ermöglichen.

Datenschutz und Sicherheit

• • Betreiber von KI-Systemen müssen sicherstellen, dass das System in Übereinstimmung mit den geltenden Datenschutzbestimmungen (wie der DSGVO) arbeitet. Dies bedeutet, dass die Verarbeitung personenbezogener Daten rechtmäßig, transparent und datensparsam erfolgen muss.
  • Betreiber müssen Maßnahmen zum Schutz der Daten vor Missbrauch, unbefugtem Zugriff oder sonstigen Sicherheitsverletzungen treffen.

Einhaltung ethischer Standards

• • Der Betreiber trägt die Verantwortung, dass das eingesetzte KI-System keine diskriminierenden, schädlichen oder unethischen Entscheidungen trifft. Dies betrifft beispielsweise Bereiche wie die faire Behandlung von Menschen unterschiedlicher Herkunft, Geschlecht oder sozialer Gruppen.

Pflichten bei Hochrisiko-KI-Systemen

Für KI-Systeme, die als Hochrisiko klassifiziert sind, gelten zusätzliche Anforderungen:

• Registrierungspflicht: Diese Systeme müssen bei einer zentralen EU-Datenbank registriert* werden.
• Strenge Überwachung: Betreiber von Hochrisiko-KI-Systemen müssen zusätzliche Maßnahmen zur Überwachung, Dokumentation und Risikominderung umsetzen.
• Audits: Betreiber müssen bereit sein, externe Audits durchzuführen, um die Einhaltung der Vorschriften nachzuweisen.

Zusammenfassung

Die Pflichten von Betreibern unter der KI-Verordnung umfassen die korrekte Anwendung der KI-Systeme gemäß den Vorgaben des Herstellers, die Sicherstellung der Transparenz, den Datenschutz, die Überwachung von Vorfällen sowie die Einhaltung ethischer Standards. Betreiber tragen eine entscheidende Verantwortung, um sicherzustellen, dass KI-Systeme sicher, fair und in Übereinstimmung mit den gesetzlichen Vorschriften eingesetzt werden.