Einführung: Bedeutung der KI-Verordnung
Die am 1. August 2024 in Kraft getretene KI-Verordnung (KI-VO) findet schrittweise Anwendung. Während ein Großteil der Pflichten erst ab dem 2. August 2026 gilt, sind bereits seit dem 2. Februar 2025 erste Vorschriften in Kraft. So verbietet Art. 5 KI-VO seit diesem Datum bestimmte Praktiken im Umgang mit KI-Systemen. Zudem ist seit dem 2. Februar 2025 auch die Verpflichtung zur Gewährleistung von KI-Kompetenz gemäß Art. 4 KI-VO anzuwenden.
Ob diese Vorschrift als Pflicht, Appell oder anderweitig zu verstehen ist, wird insbesondere auf Plattformen wie LinkedIn derzeit noch diskutiert. In diesem Beitrag sprechen wir daher von einem "Auftrag" an Unternehmen, für eine ausreichende KI-Kompetenz zu sorgen.
Gesetzliche Grundlage: Art. 4 KI-VO
Der gesetzliche Auftrag zur Sicherstellung von KI-Kompetenz ergibt sich aus Art. 4 KI-VO:
"Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung sowie der Kontext, in dem die KI-Systeme eingesetzt werden, zu berücksichtigen."
Dieser Auftrag gilt für alle Anbieter und Betreiber von KI-Systemen – unabhängig davon, ob es sich um ein Hochrisiko-KI-System handelt oder nicht. Damit ist diese Verpflichtung grundsätzlich für sämtliche nach der KI-VO zulässigen KI-Systeme relevant.
Definition: Was bedeutet KI-Kompetenz?
Was genau unter "KI-Kompetenz" zu verstehen ist, ergibt sich nicht direkt aus Art. 4 KI-VO. Die Konkretisierung findet sich in Art. 3 Nr. 56 KI-VO:
"KI-Kompetenz umfasst die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen ermöglichen, KI-Systeme sachkundig einzusetzen. Dabei sollen sie sich der Chancen und Risiken von KI sowie möglicher Schäden, die durch KI entstehen können, bewusst werden."
KI-Kompetenz setzt somit eine gewisse Sachkunde hinsichtlich des Einsatzes eines KI-Systems voraus. Dabei sollten nicht nur rechtliche Aspekte berücksichtigt werden, sondern auch technische Hintergründe sowie ethische Fragestellungen.
Umsetzung: Ab wann und wie müssen Unternehmen handeln?
Auch wenn der Auftrag aus Art. 4 KI-VO bereits seit dem 2. Februar 2025 gilt (vgl. Art. 113 Abs. 2 KI-VO), bedeutet das nicht, dass alle betroffenen Mitarbeiter sofort über die erforderliche KI-Kompetenz verfügen müssen. Unternehmen müssen jedoch ab diesem Stichtag Maßnahmen zur Kompetenzvermittlung ergreifen. Eine erste Anforderung ist daher die Erarbeitung eines Konzepts zur Implementierung der KI-Kompetenz im Unternehmen.
Maßnahmen zur Sicherstellung der KI-Kompetenz
Die KI-VO gibt keine konkreten Vorgaben, wie die KI-Kompetenz aufgebaut werden soll. Die Wahl der geeigneten Maßnahmen liegt daher im Ermessen der Unternehmen. Dies ermöglicht eine flexible Anpassung an Unternehmensgröße, Vorkenntnisse der Mitarbeiter sowie die jeweilige Branche. So ist allein in den Bereichen Gesundheitswesen, Handel, Automobilindustrie, Versicherungswirtschaft oder Presse unterschiedliche Kompetenzanforderungen zu erwarten.
Folgende Maßnahmen haben sich als sinnvoll erwiesen:
- Erstellung von Richtlinien zur Nutzung von KI-Systemen durch die Mitarbeiter
- Schulungen zur Vermittlung eines Grundverständnisses über die Funktionsweise, Handhabung, Chancen und Risiken von KI
- Interdisziplinäre Workshops, um technische, rechtliche und ethische Aspekte gemeinsam zu beleuchten
Dokumentation der Maßnahmen: Nachweis gegenüber Behörden
Unternehmen sollten die Umsetzung der Maßnahmen zur KI-Kompetenz sorgfältig dokumentieren. Dabei ist es wichtig, nicht nur festzuhalten, welche Maßnahmen geplant sind, sondern auch, wie und in welchem Turnus sie tatsächlich durchgeführt wurden. Eine lückenlose Dokumentation dient als Nachweis gegenüber Aufsichtsbehörden und hilft, dem Auftrag aus Art. 4 KI-VO nachzukommen.
Fazit: Unternehmen sollten jetzt aktiv werden
Der Auftrag zur Förderung der KI-Kompetenz ist bereits in Kraft. Unternehmen sollten daher nicht abwarten, sondern frühzeitig ein Konzept zur Umsetzung entwickeln. Durch Schulungen, klare Richtlinien und eine kontinuierliche Weiterbildung der Mitarbeiter kann sichergestellt werden, dass KI-Systeme sachkundig, sicher und verantwortungsvoll genutzt werden.
Rechtsberatung vom Anwalt für IT- und Datenschutzrecht
Unsere Rechtsanwälte für IT-Recht Datenschutzrecht aus Düsseldorf unterstützen Unternehmen jeder Größenordnung in allen rechtlichen Fragen zum IT- und Datenschutzrecht. Wir beraten unsere Mandanten unter anderem bei der Durchsetzung von und der Verteidigung gegen datenschutzrechtliche Ansprüche. Wir beraten auch Agenturen bei datenschutzrechtlichen Fragestellungen ihrer Kunden. Zu unseren Leistungen gehört auch die Unterstützung bei der Erstellung einer rechtssicheren Website.
Unsere Leistungen im Überblick:
- Beratung bei der Erstellung von Mitarbeiterrichtlinien für die Nutzung von KI-Systemen
- Prüfung von Verträgen zur Nutzung von KI-Systemen
- Datenschutzrechtliche Prüfung des dargestellten Sachverhalts
- Unterstützung bei der datenschutzkonformen Umsetzung eines Projektes
- Unterstützung bei der Durchsetzung oder Abwehr von datenschutzrechtlichen Ansprüchen
- Beratung bei der Gestaltung von IT-Verträgen
- Unterstützung beim Aufbau eines Online-Shops
Mehr zu unseren Leistungen im IT- und Datenschutzrecht finden Sie hier:
Gerne bringen wir Ihnen im Rahmen eines unverbindlichen Erstgesprächs die Rechtslage näher und unterstützen Sie dabei, Rechtsklarheit zu gewinnen. Kontaktieren Sie uns jederzeit für ein Kennenlerngespräch.