Die KI-VO enthält für die einzelnen Akteure zahlreiche Pflichten, die dazu dienen sollen, dass der Einsatz von KI-Systemen mit den Zielen der KI-VO im Einklang steht. So beschreibt Art. 1 Abs. 1 KI-VO den Zweck der Verordnung unter anderem damit, dass die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz gefördert werden soll. Zugleich soll ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in der Charta verankerten Grundrechte gewährleistet bleiben. Es sollen daher nur solche KI-Systeme in der Europäischen Union in den Verkehr gebracht werden dürfen, die diesen Schutzzielen nicht entgegenstehen. An dieser Zielrichtung sind sodann auch die (meisten) Pflichten aus der KI-VO ausgerichtet. Eine bislang wenig beleuchtete und dadurch eher untergeordnete Kooperationspflicht für Anbieter von KI-Systemen ergibt sich aus Art. 25 Abs. 2 KI-VO, deren unkritische Befolgung für Anbieter und deren Geschäftsgeheimnisse allerdings weitreichende Folgen haben kann.
Vom Betreiber zum Anbieter – Art. 25 Abs. 1 KI-VO
Aber der Reihe nach. Ausgangspunkt ist die Regelung in Art. 25 Abs. 1 KI-VO, nach der in bestimmten Fällen, Händler, Einführer oder Betreiber als Anbieter eines Hochrisiko-KI-Systems gelten und entsprechend auch die zahlreichen Pflichten eines Anbieters zu erfüllen haben. Das ist in den in Art. 25 Abs. 1 a) bis c) KI-VO genannten drei Konstellationen der Fall. Das ist nach Art. 25 Abs. 1 c) KI-VO beispielsweise der Fall, wenn ein Betreiber die Zweckbestimmung eines KI-Systems, das zuvor nicht als hochriskant eingestuft wurde und bereits in Verkehr gebracht wurde, so verändert, dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Art. 6 KI-VO wird.
In Schwartmann u.a. (KI-VO Leitfaden für die Praxis, Rn. 518) wird zur Verdeutlichung das Beispiel gebildet, dass ein Unternehmen ChatGPT nicht mehr zur Formulierung einer erklärenden E-Mail nutzt, sondern zur Bewertung oder Abmahnung oder Kündigung von Beschäftigten. Dies würde die Aufzählung in Anhang III Nr. 4 zur KI-VO erfüllen.
Ein weiteres, ähnliches Beispiel wird von Ebers/Streitbörger (RDi 2024, 393, 399) gebildet. Dort verwendet (erneut) die Personalabteilung eines Unternehmens ChatGPT diesmal dazu, um Bewerbungen zu ordnen und mit einem Score zu bewerten.
Eine solche Zweckänderung im Sinne von Art. 25 Abs. 1 c) KI-VO hat für den Betreiber weitreichende Folgen, insbesondere weil er in dem Moment der Zweckänderung als Anbieter dieses (neuen) KI-Systems wird und sämtliche Pflichten eines Anbieters zu erfüllen hat. Betreibern von KI-Systemen ist also zu raten, nicht leichtfertig Änderungen an einem genutzten KI-System vorzunehmen. Das ist allerdings ein eigenes Thema und soll hier nicht weiter behandelt werden.
Kooperationspflicht des alten Anbieters
Für den Fall des „Anbieterwechsels“ stellt Art. 25 Abs. 2 S. 1 KI-VOArt. 25 Abs. 2 S. 1 KI-VO zunächst ausdrücklich fest, dass der Anbieter, der ursprünglich das KI-System in den Verkehr gebracht oder in Betrieb genommen hat, nicht mehr Anbieter des nunmehr geänderten KI-Systems ist. Das ist auch nur fair, denn der ursprüngliche Anbieter hat in der Regel keine Kenntnis darüber, wie ein Betreiber sein KI-System später tatsächlich nutzt (so auch Wendt/Wendt, Das neue Recht der künstlichen Intelligenz, § 6, S. 92, Rn. 75). Der vormalige Betreiber ist nunmehr verpflichtet, sämtliche Anbieterpflichten zu erfüllen, ohne die hierfür notwendigen Informationen zu haben. Aus diesem Grund verpflichtet Art. 25 Abs. 2 S. 2 KI-VO den ursprünglichen Anbieter zur Zusammenarbeit.
Diese Zusammenarbeitet beinhaltet dabei auch die Pflicht, dem neuen Anbieter alle erforderlichen Informationen zur Verfügung zu stellen und den technischen Zugang zum KI-System zu ermöglichen, damit dieser in die Lage versetzt wird, seinen Pflichten als neuer Anbieter nachkommen zu können. Dies wird in Erwägungsgrund 86 noch einmal aufgegriffen, ohne eine über Art. 25 Abs. 2 S. 2 KI-VO hinausgehende Verpflichtung zu treffen.
Was ist mit den enthaltenen Geschäftsgeheimnissen?
Spätestens hier müssen Anbieter von KI-Systemen innehalten und für sich prüfen, ob eine solche Zusammenarbeit zwangsläufig mit der Offenbarung von Geschäftsgeheimnissen im Sinne von § 2 Nr. 1 GeschGehG einhergeht. Enthalten die nach Art. 25 Abs. 2 S. 2 KI-VO „erforderlichen Informationen“ auch solche, die der Anbieter gegenüber Dritten regelmäßig nicht offenbart und auch nicht offenbaren will, weil sie ganz oder zumindest teilweise unternehmenskritische Informationen sind, würde eine unbedachte Preisgabe im Rahmen der Zusammenarbeit womöglich zu einem Verlust eines Geschäftsgeheimnisses führen.
Diesen Punkt adressiert zum Teil Art. 25 Abs. 5 KI-VO. Danach berühren die Regelungen in den Absätzen zwei und drei nicht die Notwendigkeit, Rechte des geistigen Eigentums, vertrauliche Geschäftsinformationen und Geschäftsgeheimnisse im Einklang mit dem Unionsrecht und dem nationalen Recht zu achten und zu schützen. Allerdings liest sich diese Regelung mehr als einen Appell an die ursprünglichen Anbieter, selbst für den Schutz der eigenen Geschäftsgeheimnisse zu sorgen. Da im ersten Schritt dem ursprünglichen Anbieter über Art. 25 Abs. 2 S. 2 KI-VO eine Offenbarungspflicht auferlegt wird, kann mit Art. 25 Abs. 5 KI-VO nur der Abschluss von Geheimhaltungsvereinbarungen gemeint sein (so auch Hacker/Berz, ZRP 2023, 226, 228; Wendt/Wendt, a.a.O., S. 93, Rn. 80). Der Abschluss von Geheimhaltungsvereinbarungen ist eine anerkannte Schutzmaßnahme im Sinne von § 2 Nr. 1 GeschGehG. Aber ist das vorliegend auch die beste, denn sie ist immer dann wirkungslos, wenn der Empfänger einer vertraulichen Information sich (unbemerkt) über die Verpflichtung zur Vertraulichkeit hinwegsetzt und diese Information für andere Zwecke missbraucht.
Sicherer wären die gleichen Informationen dann, wenn der (ursprüngliche) Anbieter diese erst gar nicht nach Art. 25 Abs. 2 S. 2 KI-VO aus der Hand geben muss. Hier hilft Art. 25 Abs. 2 S. 3 KI-VO weiter. Danach gilt die Pflicht aus Art. 25 Abs. 2 KI-VO nicht in den Fällen, in denen der (ursprüngliche) Anbieter eindeutig festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf und daher nicht der Pflicht zur Übergabe der Dokumentation unterliegt. Der (ursprüngliche) Anbieter eines KI-Systems hat es also in der Hand, ob er zur Kooperation und Offenbarung von Informationen verpflichtet wird oder nicht (so auch Wendt/Wendt, a.a.O., S. 92, Rn. 76). Er muss hierfür vertraglich oder auf andere eindeutige Weise zu erkennen geben, dass sein KI-System nicht umgewandelt werden darf (Ebers/Streitbörger, RDi 2024, 393, 399; Woesch/Vogt, BKR 2024, 689, 695).
Hinweis für die Praxis
Bei der Auswahl von angemessenen Schutzmaßnahmen hat der Inhaber eines Geschäftsgeheimnisses einen gewissen Ermessensspielraum. Die von ihm ausgewählten Schutzmaßnahmen müssen mit Blick auf die zu schützende Information angemessen sein. In der hier betrachteten Konstellation hat der (ursprüngliche) Anbieter die Wahl zwischen zwei möglichen Optionen:
In der ersten Variante regelt er im Vorfeld nichts, und wird zur Offenbarung von Informationen, die auch Geschäftsgeheimnisse enthalten können, verpflichtet. Hier kann er den Schutz seiner Geschäftsgeheimnisse nur noch dadurch sicherstellen, dass er mit dem neuen Anbieter eine Geheimhaltungsvereinbarung abschließt.
In der zweiten Variante gibt der ursprüngliche Anbieter ausdrücklich zu erkennen (und schließt dies vertraglich zudem aus), dass sein KI-System nicht im Sinne von Art. 25 Abs. 1 KI-VO umgewandelt werden darf. In dieser Variante ist er bereits nicht zur Offenlegung verpflichtet.
Welche der beiden Varianten zum Tragen kommt, hängt letztlich auch vom eigenen Geschäftsmodell ab. Sofern das eigene Geschäftsmodell es allerdings zulässt, dürfte die sicherste Maßnahme zum Schutz eigener Geschäftsgeheimnisse bereits der vertragliche Ausschluss von Veränderungen am KI-System darstellen.